激活函數（activation function） 在人工神經網絡中轉換神經元輸出的函數，通常是為了提供非線性變換處理能力或保證將輸出值限制在一定范圍內（第7章）。
無環圖（acyclic） 沒有環路的圖（第4章）。
可接受的啟發（admissible heuristic） A*搜索算法的啟發式算法，絕不高估抵達目標的成本（第2章）。
人工神經網絡（artificial neural network） 用計算工具模擬生物神經網絡，以解決那些難以簡化為傳統算法適用形式的難題。請注意，人工神經網絡的操作通常與生物學意義上的神經網絡存在明顯的差異（第7章）。
自動結果緩存（auto-memoization） 在語言層級實現的結果緩存，其中保存著不會有副作用的函數調用結果，以供后續的相同調用時檢索（第1章）。
反向傳播（backpropagation） 一種用來訓練神經網絡得出權重的技術，基于正確輸出已知的一組輸入來完成。這里用偏導數計算權重對實際結果與預期結果之誤差所承擔的“責任”。這些delta將用于修正后續訓練中的權重（第7章）。
回溯（backtracking） 在搜索問題中，碰到障礙后就回到之前的決策點（轉向與前一次不同的方向）（第3章）。
位串（bit string） 一種數據結構，存儲的是1和0組成的序列，每個序列值用1位內存表示。有時也被稱作位向量（bit vector）或位數組（bit array）（第1章）。
形心（centroid） 聚類的中心點。通常，該點每個維度的值都是其他所有點在此維度的均值（第6章）。
染色體（chromosome） 在遺傳算法中，種群中的個體被稱為染色體（第5章）。
聚類簇（cluster） 參見聚類（第6章）。
聚類（clustering） 一種無監督學習技術，將一個數據集劃分為由相關點構成的多個小組，這些小組被稱作聚類簇（第6章）。
密碼子（codon） 組成氨基酸的3種核苷酸的組合（第2章）。
壓縮（compression） 對數據進行編碼（改變格式）以減少占用空間（第1章）。
連通（connected） 圖的一種屬性，表明任一頂點都存在到其他任何頂點的路徑（第4章）。
約束（constraint） 為解決約束滿足問題而必須滿足的條件（第3章）。
交換（crossover） 在遺傳算法中，將種群中的個體組合在一起創造出后代，這些后代是其父母的混合體，并將組成下一代種群（第5章）。
CSV 一種文本交換格式，每行數據中的值以逗號分隔，行與行之間通常由換行符分隔。CSV的意思是逗號分隔的值（comma-separated value）。CSV是從電子表格和數據庫中導出的數據的常見格式（第7章）。
環（cycle） 圖的路徑，在沒有回溯的情況下同一個頂點會被訪問兩次（第4章）。
解壓縮（decompression） 壓縮過程的逆操作，將數據恢復為原格式（第1章）。
深度學習（deep learning） 一句流行語，任何一種用高級機器學習算法分析大數據的技術都可被認為是深度學習。最常見的深度學習是用多層人工神經網絡求解大數據集應用問題（第7章）。
delta 表示神經網絡中權重的預期值與實際值之間的差距的一個值。預期值由數據的訓練和反向傳播進行確定（第7章）。
有向圖（digraph） 參見有向圖（directed graph）（第4章）。
有向圖（directed graph） 也稱作digraph，有向圖的邊只能朝一個方向遍歷（第4章）。
值域（domain） 約束滿足問題中變量的可能取值范圍（第3章）。
動態規劃（dynamic programming） 動態規劃不采用蠻力法直接解決大型問題，而是把大型問題分解為更可控的小型子問題（第9章）。
邊（edge） 圖中兩個頂點（節點）之間的連接（第4章）。
異或（exclusive or） 參見XOR（第1章）。
前饋（feed-forward） 一種神經網絡，信號在其中朝一個方向傳播（第7章）。
適應度函數（fitness function） 一種評分函數，對問題可能的解進行效果評價（第5章）。
代（generation） 遺傳算法中的一輪計算，也用于表示一輪計算過程中受激活個體組成的種群（第5章）。
遺傳編程（genetic programming） 運用選擇、交換和變異操作符進行自我修改的程序，以便求解解法不明顯的編程問題（第5章）。
梯度下降（gradient descent） 用反向傳播時計算出來的delta和學習率，修改人工神經網絡權重的方法（第7章）。
圖（graph） 一種抽象的數學結構，通過將問題劃分為一組相互連通的節點來對現實世界的問題進行建模。這些節點被稱為頂點，頂點間的連接被稱為邊（第4章）。
貪婪算法（greedy algorithm） 一種在任一決策點都選擇最優直接選項的算法，以期能導出全局的最優解（第4章）。
啟發式算法（heuristic） 一種關于問題求解路徑的直覺，認為該路徑指向正確的方向（第2章）。
隱藏層（hidden layer） 在前饋人工神經網絡中，所有位于輸入層和輸出層之間的層（第7章）。
無限循環（infinite loop） 不會終止的循環（第1章）。
無限遞歸（infinite recursion） 不會終止的遞歸調用，而是持續發起新的遞歸調用。這類似于無限循環。通常是因為缺少基線條件引起的（第1章）。
輸入層（input layer） 前饋人工神經網絡的第一層，接收來自某種外部實體的輸入（第7章）。
學習率（learning rate） 通常是一個常數，用于根據計算得出的delta調整人工神經網絡權重的修改率（第7章）。
結果緩存（memoization） 一種將計算任務的結果保存起來的技術，以供后續從內存中讀取，從而節省為重新生成相同結果而額外耗費的計算時間（第1章）。
最小生成樹（minimum spanning tree） 連接所有頂點的生成樹，使得所有邊的總權重最低（第4章）。
變異（mutate） 在遺傳算法中，當個體被放入下一代種群之前隨機改變該個體的某些屬性（第5章）。
自然選擇（natural selection） 生物優勝劣汰的進化過程。給定有限的環境資源，最善于利用這些資源的生物將會存活并繁衍。經過幾代之后，就會讓有利的特征在種群中擴散，由此環境約束就做出了自然選擇（第5章）。
神經網絡（neural network） 由多個神經元構成的網絡，神經元相互協同進行信息處理。這些神經元通常視作分層組織（第7章）。
神經元（neuron） 神經細胞個體，正如人類大腦中的神經細胞（第7章）。
歸一化（normalization） 讓不同類型的數據具有可比性的過程（第6章）。
NP困難問題（NP-hard problem） 一類沒有已知的多項式時間算法能夠求解的問題（第9章）。
核苷酸（nucleotide） DNA的4種堿基（腺嘌呤（A）、胞嘧啶（C）、鳥嘌呤（G）和胸腺嘧啶（T）之一的實例（第2章）。
輸出層（output layer） 前饋人工神經網絡中的最后一層，用于對給定輸入和問題確定神經網絡的求解結果（第7章）。
路徑（path） 連接圖中兩個頂點的邊的集合（第4章）。
層（ply） 在雙人游戲中的一個回合（通常可被視為一步）（第8章）。
種群（population） 在遺傳算法中，種群是多個個體的集合（每個種群都代表問題可能的解），這些個體相互競爭以期求解問題（第5章）。
優先隊列（priority queue） 基于“優先級”順序彈出數據項的數據結構。例如，為了首先響應最高優先級的電話，優先隊列可以與緊急電話數據集一起使用（第2章）。
隊列（queue） 一種抽象數據結構，保證先進先出（First-In-First-Out，FIFO）的順序。隊列的實現代碼至少應提供壓入操作和彈出操作，分別用于添加和移除元素（第2章）。
遞歸函數（recursive function） 調用自己的函數（第1章）。
選擇（selection） 在遺傳算法的一代運算中，為了繁殖而選擇個體的過程，以創造下一代中的個體（第5章）。
sigmoid函數（sigmoid function） 流行的激活函數之一，用于人工神經網絡。名為sigmoid的函數始終會返回介于0到1之間的值。它還有助于確保神經網絡能把超出線性變換的結果表示出來（第7章）。
SIMD指令（SIMD instruction） 為向量計算做過優化的微處理器指令，有時也稱為向量指令。SIMD代表單指令多數據（single instruction，multiple data）（第7章）。
生成樹（spanning tree） 連接圖中每個頂點的樹（第4章）。
棧（stack） 一種抽象數據結構，保證后進先出的順序（Last-In-First-Out，LIFO）。棧的實現代碼至少應提供壓入操作和彈出操作，分別用于添加和移除元素（第2章）。
監督學習（supervised learning） 機器學習技術中的算法或多或少需要外部資源的指導才能得出正確解（第7章）。
突觸（synapse） 神經元之間的間隙，神經遞質充斥其中用以傳導電流。用非專業的話說，這些就是神經元之間的連接（第7章）。
訓練（training） 人工神經網絡在訓練階段利用反向傳播調整權重，用到的是某些給定輸入的已知正確輸出（第7章）。
樹（tree） 任意兩個頂點之間只有一條路徑的圖。樹是無環（acyclic）圖（第4章）。
無監督學習（unsupervised learning） 不用先驗知識（foreknowledge）即可得出結論的機器學習技術，換句話說，這種技術無須指導而是自行運行（第6章）。
變量（variable） 在約束滿足問題的上下文中，變量是必須作為解的一部分并求出的參數。變量的可能取值范圍即為值域（domain）。解必須滿足一條或多條約束條件（第3章）。
頂點（vertex） 圖的一個節點（第4章）。
XOR 一種邏輯位操作，只要有一個操作數為true就返回true，但兩個操作數都為true或都不為true時則返回false。此縮寫表示異或。在Python語言中，用運算符“^”表示XOR（第1章）。
z分數（z-score） 數據點與數據集均值之間的距離，以標準差為計數單位（第6章）。
本文摘自《算法精粹：經典計算機科學問題的Python實現》
