1. 易重構
本節對一些Python/ target=_blank class=infotextkey>Python重整的操作進行對比。
1.1 有放回隨機樣本和無放回隨機樣本
私信小編01即可獲取大量python學習資源
隨機導入
random.choices(seq, k= 1 ) #長度為k的列表，有放回采樣
random.sample(seq, k) #長度為k的列表，無放回采樣
1.2 lambda 函數的參數
func = lambda y: x + y # x 的值在函數運行時被綁定
func = lambda y, x=x: x + y # x 的值在函數定義時被綁定
1.3 拷貝與深拷貝
import copy
y = copy.copy(x) # 只復制最速
y = copy . deepcopy(x) # 復制所有隱藏部分
復制和變量結合時，容易重新組合：
a = [ 1 , 2 , [ 3 , 4 ]]
#別名。
b_alias = a
斷言b_alias == a并且b_alias是一個
# 淺拷貝。
b_shallow_copy = a[:]
斷言b_shallow_copy ==一個和b_shallow_copy就是 不一個和b_shallow_copy [ 2 ]是一個[ 2 ]
# 深拷貝。
導入副本
b_deep_copy = copy.deepcopy(a)
斷言b_deep_copy ==一個和b_deep_copy就是 不一個和b_deep_copy [ 2 ]是 不一個[ 2 ]
對異名的修改影響原變量，（淺）復制中的元素是列表中的元素，而原變量是還原的進行復制，對還原的修改不影響原變量。
1.4 == 和是
x == y # 兩引用對象是否有相同的值
x 是 y # 兩引用是否關聯對象
1.5 判斷類型
type(a) == int # 忽略面向對象設計中的多態特征
isinstance(a, int) # 考慮了面向對象設計中的多態特征
1.6 字符串搜索
str.find(sub, start=None, end=None); str.rfind(...) # 如果找不到返回-1
str.index(sub, start=None, end=None); str.rindex(...) # 如果找不到拋出ValueError異常
1.7 List 后向索引
這個只是習慣問題，前向索引時下標從0開始，如果反向索引也想從0開始可以使用~。
print(a[-1], a[-2], a[-3])
print(a[~0], a[~1], a[~2])
2. C/C++ 用戶使用指南
不少 Python 的用戶是從以前 C/C++ 遷移過來的，這兩種語言在語法、代碼風格等方面有些不同，本節簡要進行介紹。
2.1 很大的數和很小的數
C/C++ 的習慣是定義一個很大的數字，Python 中有 inf 和 -inf：
a = float('inf')
b = float('-inf')
2.2 布爾值
C/C++ 的習慣是使用 0 和非 0 值表示 True 和 False， Python 建議直接使用 True 和 False 表示布爾值。
a = True
b = False
2.3 判斷為空
C/C++ 對空指針判斷的習慣是 if (a) 和 if (!a)。Python 對于 None 的判斷是：
if x is None:
pass
如果使用 if not x，則會將其他的對象（比如長度為 0 的字符串、列表、元組、字典等）都會被當做 False。
2.4 交換值
C/C++ 的習慣是定義一個臨時變量，用來交換值。利用 Python 的 Tuple 操作，可以一步到位。
a, b = b, a
2.5 比較
C/C++ 的習慣是用兩個條件。利用 Python 可以一步到位。
if 0 < a < 5:
pass
2.6 類成員的 Set 和 Get
C/C++ 的習慣是把類成員設為 private，通過一系列的 Set 和 Get 函數存取其中的值。在 Python 中雖然也可以通過 @property、@setter、@deleter 設置對應的 Set 和 Get 函數，我們應避免不必要的抽象，這會比直接訪問慢 4 - 5 倍。
2.7 函數的輸入輸出參數
C/C++ 的習慣是把輸入輸出參數都列為函數的參數，通過指針改變輸出參數的值，函數的返回值是執行狀態，函數調用方對返回值進行檢查，判斷是否成功執行。在 Python 中，不需要函數調用方進行返回值檢查，函數中遇到特殊情況，直接拋出一個異常。
2.8 讀文件
相比 C/C++，Python 讀文件要簡單很多，打開后的文件是一個可迭代對象，每次返回一行內容。
with open(file_path, 'rt', encoding='utf-8') as f:
for line in f:
print(line) # 末尾的n會保留
2.9 文件路徑拼接
C/C++ 的習慣通常直接用 + 將路徑拼接，這很容易出錯，Python 中的 os.path.join 會自動根據操作系統不同補充路徑之間的 / 或 分隔符：
import os
os.path.join('usr', 'lib', 'local')
2.10 解析命令行選項
雖然 Python 中也可以像 C/C++ 一樣使用 sys.argv 直接解析命令行選擇，但是使用 argparse 下的 ArgumentParser 工具更加方便，功能更加強大。
2.11 調用外部命令
雖然 Python 中也可以像 C/C++ 一樣使用 os.system 直接調用外部命令，但是使用 subprocess.check_output 可以自由選擇是否執行 Shell，也可以獲得外部命令執行結果。
import subprocess
# 如果外部命令返回值非0，則拋出subprocess.CalledProcessError異常
result = subprocess.check_output(['cmd', 'arg1', 'arg2']).decode('utf-8')
# 同時收集標準輸出和標準錯誤
result = subprocess.check_output(['cmd', 'arg1', 'arg2'], stderr=subprocess.STDOUT).decode('utf-8')
# 執行shell命令（管道、重定向等），可以使用shlex.quote()將參數雙引號引起來
result = subprocess.check_output('grep python | wc > out', shell=True).decode('utf-8')
2.12 不重復造輪子
不要重復造輪子，Python稱為batteries included即是指Python提供了許多常見問題的解決方案。
3. 常用工具
3.1 讀寫 CSV 文件
import csv
# 無header的讀寫
with open(name, 'rt', encoding='utf-8', newline='') as f: # newline=''讓Python不將換行統一處理
for row in csv.reader(f):
print(row[0], row[1]) # CSV讀到的數據都是str類型
with open(name, mode='wt') as f:
f_csv = csv.writer(f)
f_csv.writerow(['symbol', 'change'])
# 有header的讀寫
with open(name, mode='rt', newline='') as f:
for row in csv.DictReader(f):
print(row['symbol'], row['change'])
with open(name, mode='wt') as f:
header = ['symbol', 'change']
f_csv = csv.DictWriter(f, header)
f_csv.writeheader()
f_csv.writerow({
'symbol': xx, 'change': xx})
注意，當 CSV 文件過大時會報錯：_csv.Error: field larger than field limit (131072)，通過修改上限解決
import sys
csv.field_size_limit(sys.maxsize)
csv 還可以讀以 t 分割的數據
f = csv.reader(f, delimiter='t')
3.2 迭代器工具
itertools 中定義了很多迭代器工具，例如子序列工具：
import itertools
itertools.islice(iterable, start=None, stop, step=None)
# islice('ABCDEF', 2, None) -> C, D, E, F
itertools.filterfalse(predicate, iterable) # 過濾掉predicate為False的元素
# filterfalse(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6
itertools.takewhile(predicate, iterable) # 當predicate為False時停止迭代
# takewhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 1, 4
itertools.dropwhile(predicate, iterable) # 當predicate為False時開始迭代
# dropwhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6, 4, 1
itertools.compress(iterable, selectors) # 根據selectors每個元素是True或False進行選擇
# compress('ABCDEF', [1, 0, 1, 0, 1, 1]) -> A, C, E, F
序列排序：
sorted(iterable, key=None, reverse=False)
itertools.groupby(iterable, key=None) # 按值分組，iterable需要先被排序
# groupby(sorted([1, 4, 6, 4, 1])) -> (1, iter1), (4, iter4), (6, iter6)
itertools.permutations(iterable, r=None) # 排列，返回值是Tuple
# permutations('ABCD', 2) -> AB, AC, AD, BA, BC, BD, CA, CB, CD, DA, DB, DC
itertools.combinations(iterable, r=None) # 組合，返回值是Tuple
itertools.combinations_with_replacement(...)
# combinations('ABCD', 2) -> AB, AC, AD, BC, BD, CD
多個序列合并：
itertools.chain(*iterables) # 多個序列直接拼接
# chain('ABC', 'DEF') -> A, B, C, D, E, F
import heapq
heapq.merge(*iterables, key=None, reverse=False) # 多個序列按順序拼接
# merge('ABF', 'CDE') -> A, B, C, D, E, F
zip(*iterables) # 當最短的序列耗盡時停止，結果只能被消耗一次
itertools.zip_longest(*iterables, fillvalue=None) # 當最長的序列耗盡時停止，結果只能被消耗一次
3.3 計數器
計數器可以統計一個可迭代對象中每個元素出現的次數。
import collections
# 創建
collections.Counter(iterable)
# 頻次
collections.Counter[key] # key出現頻次
# 返回n個出現頻次最高的元素和其對應出現頻次，如果n為None，返回所有元素
collections.Counter.most_common(n=None)
# 插入/更新
collections.Counter.update(iterable)
counter1 + counter2; counter1 - counter2 # counter加減
# 檢查兩個字符串的組成元素是否相同
collections.Counter(list1) == collections.Counter(list2)
3.4 帶默認值的 Dict
當訪問不存在的 Key 時，defaultdict 會將其設置為某個默認值。
import collections
collections.defaultdict(type) # 當第一次訪問dict[key]時，會無參數調用type，給dict[key]提供一個初始值
3.5 有序 Dict
import collections
collections.OrderedDict(items=None) # 迭代時保留原始插入順序
4. 高性能編程和調試
4.1 輸出錯誤和警告信息
向標準錯誤輸出信息
import sys
sys.stderr.write('')
輸出警告信息
import warnings
warnings.warn(message, category=UserWarning)
# category的取值有DeprecationWarning, SyntaxWarning, RuntimeWarning, ResourceWarning, FutureWarning
控制警告消息的輸出
$ python -W all # 輸出所有警告，等同于設置warnings.simplefilter('always')
$ python -W ignore # 忽略所有警告，等同于設置warnings.simplefilter('ignore')
$ python -W error # 將所有警告轉換為異常，等同于設置warnings.simplefilter('error')
4.2 代碼中測試
有時為了調試，我們想在代碼中加一些代碼，通常是一些 print 語句，可以寫為：
# 在代碼中的debug部分
if __debug__:
pass
一旦調試結束，通過在命令行執行 -O 選項，會忽略這部分代碼：
$ python -0 main.py
4.3 代碼風格檢查
使用 pylint 可以進行不少的代碼風格和語法檢查，能在運行之前發現一些錯誤
pylint main.py
4.4 代碼耗時
耗時測試
$ python -m cProfile main.py
測試某代碼塊耗時
# 代碼塊耗時定義
from contextlib import contextmanager
from time import perf_counter
@contextmanager
def timeblock(label):
tic = perf_counter()
try:
yield
finally:
toc = perf_counter()
print('%s : %s' % (label, toc - tic))
# 代碼塊耗時測試
with timeblock('counting'):
pass
代碼耗時優化的一些原則
- 專注于優化產生性能瓶頸的地方，而不是全部代碼。
- 避免使用全局變量。局部變量的查找比全局變量更快，將全局變量的代碼定義在函數中運行通常會快 15%-30%。
- 避免使用.訪問屬性。使用 from module import name 會更快，將頻繁訪問的類的成員變量 self.member 放入到一個局部變量中。
- 盡量使用內置數據結構。str, list, set, dict 等使用 C 實現，運行起來很快。
- 避免創建沒有必要的中間變量，和 copy.deepcopy()。
- 字符串拼接，例如 a + ‘:’ + b + ‘:’ + c 會創造大量無用的中間變量，’:’,join([a, b, c]) 效率會高不少。另外需要考慮字符串拼接是否必要，例如 print(’:’.join([a, b, c])) 效率比 print(a, b, c, sep=’:’) 低。
5. Python 其他技巧
5.1 argmin 和 argmax
items = [2, 1, 3, 4]
argmin = min(range(len(items)), key=items.__getitem__)
argmax同理。
5.2 轉置二維列表
A = [['a11', 'a12'], ['a21', 'a22'], ['a31', 'a32']]
A_transpose = list(zip(*A)) # list of tuple
A_transpose = list(list(col) for col in zip(*A)) # list of list
5.3 一維列表展開為二維列表
A = [1, 2, 3, 4, 5, 6]
# Preferred.
list(zip(*[iter(A)] * 2))
