1、引言
小屌丝：鱼哥，最近博文更新频率低了
小鱼：这是你的错觉
小屌丝：但是你都没有推送博文信息给我啊
小鱼：因为我最近在搞大事情
小屌丝：嗯？？？
小鱼：透露一点消息：准备另一个领域的专栏了。
小屌丝：此时小屌丝的心情，
小鱼：没错，因为最近在备战，所以，索性就把所有的姿势 知识重新整理成专栏，这样既方便我自己查阅，也方便大家涨知识。
小屌丝：那能不能透露是哪个领域的专栏呢？
小鱼：嗯~ 暂时不能说，但是，一定是纵向的，有深度的，有内涵的
小屌丝：还卖上关子了，这给你能耐的。
小鱼：总是要有期待嘛！ ！
小屌丝：强人所难不是我性格，既然这样，那给我分析一点提升我编码能力的知识点吧。
小鱼：唉~ ~ 就知道你会这样…幸好我早有准备
今天我们不去搞 "简单"的编码，
而是来搞点提升B~格的编码技巧。
2、常用工具
在实际的编码中，我们会常用到一些工具，例如 csv文件、计数器、等。
虽然基本的使用大家都没得说，但是，一些小技巧，还是要掌握的。
2.1 csv文件读写
代码展示 一：
读取csv文件
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import csv '''无header的读写''' # newline=''，让Python不将换行统一处理 with open(name, 'rt', encoding='utf-8', newline='') as f: for row in csv.reader(f): # CSV读到的数据都是str类型 print(row[0], row[1]) with open(name, mode='wt') as f: f_csv = csv.writer(f) f_csv.writerow(['symbol', 'change']) '''无header的读写''' with open(name, mode='rt', newline='') as f: for row in csv.DictReader(f): print(row['symbol'], row['change']) with open(name, mode='wt') as f: header = ['symbol', 'change'] f_csv = csv.DictWriter(f, header) f_csv.writeheader() f_csv.writerow({'symbol': xxx, 'change': xxx})
代码展示 二：
修改csv文件内容最大上限
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import sys '''修改csv文件上限，防止因为csv文件过大导致读取失败''' csv.field_size_limit(sys.maxsize)
代码展示 三：
读取 \t 分割的数据
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import csv '''读取 \t 分割的数据''' f = csv.reader(f, delimiter='\t')
2.2 计数器
代码展示 一：
统计一个可迭代对象中每个元素出现的次数
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import collections #创建 collections.Counter(iterable) #频次 #key出现频次 collections.Counter[key] #返回n个出现频次最高的元素和其对应出现频次，如果n为None，返回所有元素 collections.Counter.most_common(n=None) #插入/更新 collections.Counter.update(iterable) #counter加减 counter1 + counter2; counter1 - counter2 #检查两个字符串的组成元素是否相同 collections.Counter(list1) == collections.Counter(list2)
2.3 Dict
2.3.1 带默认值的 Dict
代码展示 一：
当访问不存在的 Key 时，defaultdict 会将其设置为某个默认值
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import collections #当第一次访问dict[key]时，会无参数调用type，给dict[key]提供一个初始值 collections.defaultdict(type)
2.3.2 有序的 Dict
代码展示 一：
有序 Dict
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import collections #迭代时保留原始插入顺序 collections.OrderedDict(items=None)
2.4 迭代器工具
代码展示 一：
itertools 中子序列工具
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import itertools '''有限序列迭代器''' #对迭代器进行切片 itertools.islice(iterable, start=None, stop, step=None) # islice('ABCDEFG', 2, None) -> C, D, E, F ,G # 过滤掉predicate为False的元素 itertools.filterfalse(predicate, iterable) # filterfalse(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6 # 当predicate为False时停止迭代 itertools.takewhile(predicate, iterable) # takewhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 1, 4 # 当predicate为False时开始迭代 itertools.dropwhile(predicate, iterable) # dropwhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6, 4, 1 # 根据selectors每个元素是True或False进行选择 itertools.compress(iterable, selectors) # compress('ABCDEF', [1, 0, 1, 0, 1, 1]) -> A, C, E, F
代码展示 二：
序列排序
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import itertools sorted(iterable, key=None, reverse=False) # 按值分组，iterable需要先被排序 itertools.groupby(iterable, key=None) # groupby(sorted([1, 4, 6, 4, 1])) -> (1, iter1), (4, iter4), (6, iter6) # 排列，返回值是Tuple itertools.permutations(iterable, r=None) # permutations('ABCD', 2) -> AB, AC, AD, BA, BC, BD, CA, CB, CD, DA, DB, DC # 组合，返回值是Tuple itertools.combinations(iterable, r=None) itertools.combinations_with_replacement(...) # combinations('ABCD', 2) -> AB, AC, AD, BC, BD, CD
代码展示 三：
序列合并
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import itertools import heapq # 多个序列直接拼接 itertools.chain(*iterables) # chain('ABC', 'DEF') -> A, B, C, D, E, F # 多个序列按顺序拼接 heapq.merge(*iterables, key=None, reverse=False) # merge('ABF', 'CDE') -> A, B, C, D, E, F # 当最短的序列耗尽时停止，结果只能被消耗一次 zip(*iterables) # 当最长的序列耗尽时停止，结果只能被消耗一次 itertools.zip_longest(*iterables, fillvalue=None)
3、易混淆操作
3.1 随机采样
代码展示 一：
有放回随机采样
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import random # 长度为k的list，有放回采样 random.choices(seq, k=1)
代码展示 二：
无放回随机采样
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import random # 长度为k的list，无放回采样 random.sample(seq, k)
3.2 lambda 函数
代码展示 一：
lambda 函数的参数
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 # x的值在函数运行时被绑定 func = lambda y: x + y # x的值在函数定义时被绑定 func = lambda y, x=x: x + y
3.3 浅拷贝与深拷贝
代码展示 一：
copy 与deepcopy
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import copy # 只复制最顶层 y = copy.copy(x) # 复制所有嵌套部分 y = copy.deepcopy(x)
代码展示 二：
复制和变量别名结合在一起时，易混淆
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import copy a = [1, 2, [3, 4]] # Alias. b_alias = a assert b_alias == a and b_alias is a # Shallow copy. b_shallow_copy = a[:] assert b_shallow_copy == a and b_shallow_copy is not a and b_shallow_copy[2] is a[2] # Deep copy. b_deep_copy = copy.deepcopy(a) assert b_deep_copy == a and b_deep_copy is not a and b_deep_copy[2] is not a[2]
注：
对别名的修改会影响原变量，浅拷贝中的元素是原列表中元素的别名；
而深层拷贝是递归的进行复制，对深层拷贝的修改不影响原变量。
3.4 == 和 is
代码展示 一：
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 # 两引用对象是否有相同值 x == y # 两引用是否指向同一对象 x is y
3.5 判断类型
代码展示 一：
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 # 忽略面向对象设计中的多态特征 type(a) == int # 考虑了面向对象设计中的多态特征 isinstance(a, int)
3.6 字符串搜索
代码展示 一：
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 # 如果找不到返回-1 str.find(sub, start=None, end=None); str.rfind(...) # 如果找不到抛出ValueError异常 str.index(sub, start=None, end=None); str.rindex(...)
3.7 List 反向索引
代码展示 一：
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 #向前索引，下标从0开始 print(a[-1], a[-2], a[-3]) #反向索引，下标也要从0开始 print(a[~0], a[~1], a[~2])
4、高性能编码于调试
4.1 输出错误和警告信息
4.1.1 向标准错误输出信息
代码展示 一：
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import sys #向标准错误输出信息 sys.stderr.write('')
4.1.2 输出警告信息
代码展示 一：
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 import warnings #输出警告信息 warnings.warn(message, category=UserWarning)
4.1.3 控制警告消息的输出
代码展示 一：
# 输出所有警告，等同于设置warnings.simplefilter('always') >>python -W all # 忽略所有警告，等同于设置warnings.simplefilter('ignore') >>python -W ignore >
4.2 代码中测试
代码展示 一：
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 ''' 为了调试，我们想在代码中加一些代码，通常是一些 print 语句 ''' # 在代码中的debug部分 if __debug__: pass
调试结束，在执行命令中输入 -0，忽略此部分代码
>> python -0 main.py
4.3 代码风格检查
代码展示 一：
使用pylint进行代码风格和语法检查，能在运行之前发现一些错误信息
>> pylint main.py
4.4 代码耗时
代码展示 一：
测试耗时
>> python -m cProfile main.py
代码展示 二：
测试某块代码耗时
# -*- coding: utf-8 -*- # @ auth : carl_DJ # @ time : 2022-01-11 # 代码块耗时定义 from contextlib import contextmanager from time import perf_counter @contextmanager def timeblock(label): tic = perf_counter() try: yield finally: toc = perf_counter() print('%s : %s' % (label, toc - tic)) # 代码块耗时测试 with timeblock('counting'): pass
代码耗时优化的原则，如下：
- 专注于优化产生性能瓶颈的地方，而不是全部代码。
- 避免使用全局变量。。局部变量的查找比全局变量更快，将全局变量的代码定义在函数中运行通常会快 15%-30%。
- 避免使用.访问属性。使用 from module import name 会更快，将频繁访问的类的成员变量 self.member 放入到一个局部变量中。
- 尽量使用内置数据结构。str, list, set, dict 等使用 C 实现，运行起来很快。
- 避免创建没有必要的中间变量，和 copy.deepcopy()。
- 字符串拼接，例如 a + ‘:’ + b + ‘:’ + c 会创造大量无用的中间变量，’:’,join([a, b, c]) 效率会高不少。另外需要考虑字符串拼接是否必要，例如 print(’:’.join([a, b, c])) 效率比 print(a, b, c, sep=’:’) 低。
5、其他小技巧
5.1 argmin 和 argmax
代码展示 一：
items = [2, 1, 3, 4] #计算 ‘arg’ 最小值 ‘val’ 价值 argmin = min(range(len(items)), key=items.__getitem__) #计算 ‘arg’ 最大值 ‘val’ 价值 argmax = max(range(len(items)), key=items.__getitem__)
5.2 转置二维列表
代码展示 一：
A = [['a11', 'a12'], ['a21', 'a22'], ['a31', 'a32']] #数组 A_transpose = list(zip(*A)) #列表 A_transpose = list(list(col) for col in zip(*A))
5.3 一维列表展开为二维列表
代码展示 一：
A = [1, 2, 3, 4, 5, 6] list(zip(*[iter(A)] * 2))
