20个Python使用小技巧,建议收藏~

蔚落 2024-03-26 20:18 139阅读 0赞

1、易混淆操作

本节对一些 Python 易混淆的操作进行对比。

1.1 有放回随机采样和无放回随机采样

  1. import random
  2. random.choices(seq, k=1) # 长度为k的list,有放回采样
  3. random.sample(seq, k) # 长度为k的list,无放回采样

1.2 lambda 函数的参数

  1. func = lambda y: x + y # x的值在函数运行时被绑定
  2. func = lambda y, x=x: x + y # x的值在函数定义时被绑定

1.3 copy 和 deepcopy

  1. import copy
  2. y = copy.copy(x) # 只复制最顶层
  3. y = copy.deepcopy(x) # 复制所有嵌套部分

复制和变量别名结合在一起时,容易混淆:

  1. a = [1, 2, [3, 4]]
  2. # Alias.
  3. b_alias = a
  4. assert b_alias == a and b_alias is a
  5. # Shallow copy.
  6. b_shallow_copy = a[:]
  7. assert b_shallow_copy == a and b_shallow_copy is not a and b_shallow_copy[2] is a[2]
  8. # Deep copy.
  9. import copy
  10. b_deep_copy = copy.deepcopy(a)
  11. assert b_deep_copy == a and b_deep_copy is not a and b_deep_copy[2] is not a[2]

对别名的修改会影响原变量,(浅)复制中的元素是原列表中元素的别名,而深层复制是递归的进行复制,对深层复制的修改不影响原变量。

2、常用工具

2.1 读写 CSV 文件

  1. import csv
  2. # 无header的读写
  3. with open(name, 'rt', encoding='utf-8', newline='') as f: # newline=''让Python不将换行统一处理
  4. for row in csv.reader(f):
  5. print(row[0], row[1]) # CSV读到的数据都是str类型
  6. with open(name, mode='wt') as f:
  7. f_csv = csv.writer(f)
  8. f_csv.writerow(['symbol', 'change'])
  9. # 有header的读写
  10. with open(name, mode='rt', newline='') as f:
  11. for row in csv.DictReader(f):
  12. print(row['symbol'], row['change'])
  13. with open(name, mode='wt') as f:
  14. header = ['symbol', 'change']
  15. f_csv = csv.DictWriter(f, header)
  16. f_csv.writeheader()
  17. f_csv.writerow({'symbol': xx, 'change': xx})

注意,当 CSV 文件过大时会报错:_csv.Error: field larger than field limit (131072),通过修改上限解决

  1. import sys
  2. csv.field_size_limit(sys.maxsize)

csv 还可以读以 \t 分割的数据

  1. f = csv.reader(f, delimiter='\t')

2.2 迭代器工具

itertools 中定义了很多迭代器工具,例如子序列工具:

  1. import itertools
  2. itertools.islice(iterable, start=None, stop, step=None)
  3. # islice('ABCDEF', 2, None) -> C, D, E, F
  4. itertools.filterfalse(predicate, iterable) # 过滤掉predicate为False的元素
  5. # filterfalse(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6
  6. itertools.takewhile(predicate, iterable) # 当predicate为False时停止迭代
  7. # takewhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 1, 4
  8. itertools.dropwhile(predicate, iterable) # 当predicate为False时开始迭代
  9. # dropwhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6, 4, 1
  10. itertools.compress(iterable, selectors) # 根据selectors每个元素是True或False进行选择
  11. # compress('ABCDEF', [1, 0, 1, 0, 1, 1]) -> A, C, E, F

序列排序:

  1. sorted(iterable, key=None, reverse=False)
  2. itertools.groupby(iterable, key=None) # 按值分组,iterable需要先被排序
  3. # groupby(sorted([1, 4, 6, 4, 1])) -> (1, iter1), (4, iter4), (6, iter6)
  4. itertools.permutations(iterable, r=None) # 排列,返回值是Tuple
  5. # permutations('ABCD', 2) -> AB, AC, AD, BA, BC, BD, CA, CB, CD, DA, DB, DC
  6. itertools.combinations(iterable, r=None) # 组合,返回值是Tuple
  7. itertools.combinations_with_replacement(...)
  8. # combinations('ABCD', 2) -> AB, AC, AD, BC, BD, CD

多个序列合并:

  1. itertools.chain(*iterables) # 多个序列直接拼接
  2. # chain('ABC', 'DEF') -> A, B, C, D, E, F
  3. import heapq
  4. heapq.merge(*iterables, key=None, reverse=False) # 多个序列按顺序拼接
  5. # merge('ABF', 'CDE') -> A, B, C, D, E, F
  6. zip(*iterables) # 当最短的序列耗尽时停止,结果只能被消耗一次
  7. itertools.zip_longest(*iterables, fillvalue=None) # 当最长的序列耗尽时停止,结果只能被消耗一次

2.3 计数器

计数器可以统计一个可迭代对象中每个元素出现的次数。

  1. import collections
  2. # 创建
  3. collections.Counter(iterable)
  4. # 频次
  5. collections.Counter[key] # key出现频次
  6. # 返回n个出现频次最高的元素和其对应出现频次,如果n为None,返回所有元素
  7. collections.Counter.most_common(n=None)
  8. # 插入/更新
  9. collections.Counter.update(iterable)
  10. counter1 + counter2; counter1 - counter2 # counter加减
  11. # 检查两个字符串的组成元素是否相同
  12. collections.Counter(list1) == collections.Counter(list2)

2.4 带默认值的 Dict

当访问不存在的 Key 时,defaultdict 会将其设置为某个默认值。

  1. import collections
  2. collections.defaultdict(type) # 当第一次访问dict[key]时,会无参数调用type,给dict[key]提供一个初始值

2.5 有序 Dict

  1. import collections
  2. collections.OrderedDict(items=None) # 迭代时保留原始插入顺序

3、高性能编程和调试

3.1 输出错误和警告信息

向标准错误输出信息

  1. import sys
  2. sys.stderr.write('')

输出警告信息

  1. import warnings
  2. warnings.warn(message, category=UserWarning)
  3. # category的取值有DeprecationWarning, SyntaxWarning, RuntimeWarning, ResourceWarning, FutureWarning

控制警告消息的输出

  1. $ python -W all # 输出所有警告,等同于设置warnings.simplefilter('always')
  2. $ python -W ignore # 忽略所有警告,等同于设置warnings.simplefilter('ignore')
  3. $ python -W error # 将所有警告转换为异常,等同于设置warnings.simplefilter('error')

3.2 代码中测试

有时为了调试,我们想在代码中加一些代码,通常是一些 print 语句,可以写为:

  1. # 在代码中的debug部分
  2. if __debug__:
  3. pass

一旦调试结束,通过在命令行执行 -O 选项,会忽略这部分代码:

  1. $ python -0 main.py

3.3 代码风格检查

使用 pylint 可以进行不少的代码风格和语法检查,能在运行之前发现一些错误

  1. pylint main.py

3.4 代码耗时

耗时测试

  1. $ python -m cProfile main.py

测试某代码块耗时

  1. # 代码块耗时定义
  2. from contextlib import contextmanager
  3. from time import perf_counter
  4. @contextmanager
  5. def timeblock(label):
  6. tic = perf_counter()
  7. try:
  8. yield
  9. finally:
  10. toc = perf_counter()
  11. print('%s : %s' % (label, toc - tic))
  12. # 代码块耗时测试
  13. with timeblock('counting'):
  14. pass

代码耗时优化的一些原则

专注于优化产生性能瓶颈的地方,而不是全部代码。

避免使用全局变量。局部变量的查找比全局变量更快,将全局变量的代码定义在函数中运行通常会快 15%-30%。

避免使用.访问属性。使用 from module import name 会更快,将频繁访问的类的成员变量 self.member 放入到一个局部变量中。

尽量使用内置数据结构。str, list, set, dict 等使用 C 实现,运行起来很快。

避免创建没有必要的中间变量,和 copy.deepcopy()。

字符串拼接,例如 a + ‘:’ + b + ‘:’ + c 会创造大量无用的中间变量,’:’,join([a, b, c]) 效率会高不少。另外需要考虑字符串拼接是否必要,例如 print(‘:’.join([a, b, c])) 效率比 print(a, b, c, sep=’:’) 低。

发表评论

表情:
评论列表 (有 0 条评论,139人围观)

还没有评论,来说两句吧...

相关阅读