這是幾位機器學習權威專家彙總的725個機器學習術語表，非常全面了，值得收藏！
英文術語中文翻譯
0-1 Loss Function0-1損失函數
Accept-Reject Sampling Method接受-拒絕抽樣法/接受-拒絕采樣法
Accumulated Error Backpropagation累積誤差反向傳播
Accuracy精度
Acquisition Function采集函數
Action動作
Activation Function激活函數
Active Learning主動學習
Adaptive Bitrate Algorithm自适應比特率算法
Adaptive BoostingAdaBoost
Adaptive Gradient AlgorithmAdaGrad
Adaptive Moment Estimation AlgorithmAdam算法
Adaptive Resonance Theory自适應諧振理論
Additive Model加性模型
Affinity Matrix親和矩陣
Agent智能體
Algorithm算法
Alpha-Beta Pruningα-β修剪法
Anomaly Detection異常檢測
Approximate Inference近似推斷
Area Under ROC CurveAUC
Artificial Intelligence人工智能
Artificial Neural Network人工神經網絡
Artificial Neuron人工神經元
Attention注意力
Attention Mechanism注意力機制
Attribute屬性
Attribute Space屬性空間
Autoencoder自編碼器
Automatic Differentiation自動微分
Autoregressive Model自回歸模型
Back Propagation反向傳播
Back Propagation Algorithm反向傳播算法
Back Propagation Through Time随時間反向傳播
Backward Induction反向歸納
Backward Search反向搜尋
Bag of Words詞袋
Bandit賭博機/老虎機
Base Learner基學習器
Base Learning Algorithm基學習算法
Baseline基準
Batch批量
Batch Normalization批量規範化
Bayes Decision Rule貝葉斯決策準則
Bayes Model Averaging貝葉斯模型平均
Bayes Optimal Classifier貝葉斯最優分類器
Bayes' Theorem貝葉斯定理
Bayesian Decision Theory貝葉斯決策理論
Bayesian Inference貝葉斯推斷
Bayesian Learning貝葉斯學習
Bayesian Network貝葉斯網/貝葉斯網絡
Bayesian Optimization貝葉斯優化
Beam Search束搜尋
Benchmark基準
Belief Network信念網/信念網絡
Belief Propagation信念傳播
Bellman Equation貝爾曼方程
Bernoulli Distribution伯努利分布
Beta Distribution貝塔分布
Between-Class Scatter Matrix類間散度矩陣
BFGSBFGS
Bias偏差/偏置
Bias In Affine Function偏置
Bias In Statistics偏差
Bias Shift偏置偏移
Bias-Variance Decomposition偏差 - 方差分解
Bias-Variance Dilemma偏差 - 方差困境
Bidirectional Recurrent Neural Network雙向循環神經網絡
Bigram二進制文法
Bilingual Evaluation UnderstudyBLEU
Binary Classification二分類
Binomial Distribution二項分布
Binomial Test二項檢驗
Boltzmann Distribution玻爾茲曼分布
Boltzmann Machine玻爾茲曼機
BoostingBoosting
Bootstrap AggregatingBagging
Bootstrap Sampling自助采樣法
Bootstrapping自助法/自舉法
Break-Event Point平衡點
Bucketing分桶
Calculus of Variations變分法
Cascade-Correlation級聯相關
Catastrophic Forgetting災難性遺忘
Categorical Distribution類别分布
Cell單元
Chain Rule鍊式法則
Chebyshev Distance切比雪夫距離
Class類别
Class-Imbalance類别不平衡
Classification分類
Classification And Regression Tree分類與回歸樹
Classifier分類器
Clique團
Cluster簇
Cluster Assumption聚類假設
Clustering聚類
Clustering Ensemble聚類內建
Co-Training協同訓練
Coding Matrix編碼矩陣
Collaborative Filtering協同過濾
Competitive Learning競争型學習
Comprehensibility可解釋性
Computation Graph計算圖
Computational Learning Theory計算學習理論
Conditional Entropy條件熵
Conditional Probability條件機率
Conditional Probability Distribution條件機率分布
Conditional Random Field條件随機場
Conditional Risk條件風險
Confidence置信度
Confusion Matrix混淆矩陣
Conjugate Distribution共轭分布
Connection Weight連接配接權
Connectionism連接配接主義
Consistency一緻性
Constrained Optimization限制優化
Context Variable上下文變量
Context Vector上下文向量
Context Window上下文視窗
Context Word上下文詞
Contextual Bandit上下文賭博機/上下文老虎機
Contingency Table列聯表
Continuous Attribute連續屬性
Contrastive Divergence對比散度
Convergence收斂
Convex Optimization凸優化
Convex Quadratic Programming凸二次規劃
Convolution卷積
Convolutional Kernel卷積核
Convolutional Neural Network卷積神經網絡
Coordinate Descent坐标下降
Corpus語料庫
Correlation Coefficient相關系數
Cosine Similarity餘弦相似度
Cost代價
Cost Curve代價曲線
Cost Function代價函數
Cost Matrix代價矩陣
Cost-Sensitive代價敏感
Covariance協方差
Covariance Matrix協方差矩陣
Critical Point臨界點
Cross Entropy交叉熵
Cross Validation交叉驗證
Curse of Dimensionality維數災難
Cutting Plane Algorithm割平面法
Data Mining資料挖掘
Data Set資料集
Davidon-Fletcher-PowellDFP
Decision Boundary決策邊界
Decision Function決策函數
Decision Stump決策樹樁
Decision Tree決策樹
Decoder解碼器
Decoding解碼
Deconvolution反卷積
Deconvolutional Network反卷積網絡
Deduction演繹
Deep Belief Network深度信念網絡
Deep Boltzmann Machine深度玻爾茲曼機
Deep Convolutional Generative Adversarial Network深度卷積生成對抗網絡
Deep Learning深度學習
Deep Neural Network深度神經網絡
Deep Q-Network深度Q網絡
Delta-Bar-DeltaDelta-Bar-Delta
Denoising去噪
Denoising Autoencoder去噪自編碼器
Denoising Score Matching去躁分數比對
Density Estimation密度估計
Density-Based Clustering密度聚類
Derivative導數
Determinant行列式
Diagonal Matrix對角矩陣
Dictionary Learning字典學習
Dimension Reduction降維
Directed Edge有向邊
Directed Graphical Model有向圖模型
Directed Separation有向分離
Dirichlet Distribution狄利克雷分布
Discriminative Model判别式模型
Discriminator判别器
Discriminator Network判别網絡
Distance Measure距離度量
Distance Metric Learning距離度量學習
Distributed Representation分布式表示
Diverge發散
Divergence散度
Diversity多樣性
Diversity Measure多樣性度量/差異性度量
Domain Adaptation領域自适應
Dominant Strategy主特征值
Dominant Strategy占優政策
Down Sampling下采樣
Dropout暫退法
Dropout Boosting暫退Boosting
Dropout Method暫退法
Dual Problem對偶問題
Dummy Node啞結點
Dynamic Bayesian Network動态貝葉斯網絡
Dynamic Programming動态規劃
Early Stopping早停
Eigendecomposition特征分解
Eigenvalue特征值
Element-Wise Product逐元素積
Embedding嵌入
Empirical Conditional Entropy經驗條件熵
Empirical Distribution經驗分布
Empirical Entropy經驗熵
Empirical Error經驗誤差
Empirical Risk經驗風險
Empirical Risk Minimization經驗風險最小化
Encoder編碼器
Encoding編碼
End-To-End端到端
Energy Function能量函數
Energy-Based Model基于能量的模型
Ensemble Learning內建學習
Ensemble Pruning內建修剪
Entropy熵
Episode回合
Epoch輪
Error誤差
Error Backpropagation Algorithm誤差反向傳播算法
Error Backpropagation誤差反向傳播
Error Correcting Output Codes糾錯輸出編碼
Error Rate錯誤率
Error-Ambiguity Decomposition誤差－分歧分解
Estimator估計/估計量
Euclidean Distance歐氏距離
Evidence證據
Evidence Lower Bound證據下界
Exact Inference精确推斷
Example樣例
Expectation期望
Expectation Maximization期望最大化
Expected Loss期望損失
Expert System專家系統
Exploding Gradient梯度爆炸
Exponential Loss Function指數損失函數
Factor因子
Factorization因子分解
Feature特征
Feature Engineering特征工程
Feature Map特征圖
Feature Selection特征選擇
Feature Vector特征向量
Featured Learning特征學習
Feedforward前饋
Feedforward Neural Network前饋神經網絡
Few-Shot Learning少試學習
Filter濾波器
Fine-Tuning微調
Fluctuation振蕩
Forget Gate遺忘門
Forward Propagation前向傳播/正向傳播
Forward Stagewise Algorithm前向分步算法
Fractionally Strided Convolution微步卷積
Frobenius NormFrobenius 範數
Full Padding全填充
Functional泛函
Functional Neuron功能神經元
Gated Recurrent Unit門控循環單元
Gated RNN門控RNN
Gaussian Distribution高斯分布
Gaussian Kernel高斯核
Gaussian Kernel Function高斯核函數
Gaussian Mixture Model高斯混合模型
Gaussian Process高斯過程
Generalization Ability泛化能力
Generalization Error泛化誤差
Generalization Error Bound泛化誤差上界
Generalize泛化
Generalized Lagrange Function廣義拉格朗日函數
Generalized Linear Model廣義線性模型
Generalized Rayleigh Quotient廣義瑞利商
Generative Adversarial Network生成對抗網絡
Generative Model生成式模型
Generator生成器
Generator Network生成器網絡
Genetic Algorithm遺傳算法
Gibbs Distribution吉布斯分布
Gibbs Sampling吉布斯采樣/吉布斯抽樣
Gini Index基尼指數
Global Markov Property全局馬爾可夫性
Global Minimum全局最小
Gradient梯度
Gradient Clipping梯度截斷
Gradient Descent梯度下降
Gradient Descent Method梯度下降法
Gradient Exploding Problem梯度爆炸問題
Gram MatrixGram 矩陣
Graph Convolutional Network圖卷積神經網絡/圖卷積網絡
Graph Neural Network圖神經網絡
Graphical Model圖模型
Grid Search網格搜尋
Ground Truth真實值
Hadamard ProductHadamard積
Hamming Distance漢明距離
Hard Margin硬間隔
Hebbian Rule赫布法則
Hidden Layer隐藏層
Hidden Markov Model隐馬爾可夫模型
Hidden Variable隐變量
Hierarchical Clustering層次聚類
Hilbert Space希爾伯特空間
Hinge Loss Function合頁損失函數/Hinge損失函數
Hold-Out留出法
Hyperparameter超參數
Hyperparameter Optimization超參數優化
Hypothesis假設
Hypothesis Space假設空間
Hypothesis Test假設檢驗
Identity Matrix機關矩陣
Imitation Learning模仿學習
Importance Sampling重要性采樣
Improved Iterative Scaling改進的疊代尺度法
Incremental Learning增量學習
Independent and Identically Distributed獨立同分布
Indicator Function訓示函數
Individual Learner個體學習器
Induction歸納
Inductive Bias歸納偏好
Inductive Learning歸納學習
Inductive Logic Programming歸納邏輯程式設計
Inference推斷
Information Entropy資訊熵
Information Gain資訊增益
Inner Product内積
Instance示例
Internal Covariate Shift内部協變量偏移
Inverse Matrix逆矩陣
Inverse Resolution逆歸結
Isometric Mapping等度量映射
Jacobian Matrix雅可比矩陣
Jensen InequalityJensen不等式
Joint Probability Distribution聯合機率分布
K-Armed Bandit Problemk-搖臂老虎機
K-Fold Cross Validationk 折交叉驗證
Karush-Kuhn-Tucker ConditionKKT條件
Karush–Kuhn–TuckerKarush–Kuhn–Tucker
Kernel Function核函數
Kernel Method核方法
Kernel Trick核技巧
Kernelized Linear Discriminant Analysis核線性判别分析
KL DivergenceKL散度
L-BFGSL-BFGS
Label标簽
Label Space标記空間
Lagrange Duality拉格朗日對偶性
Lagrange Multiplier拉格朗日乘子
Language Model語言模型
Laplace Smoothing拉普拉斯平滑
Laplacian Correction拉普拉斯修正
Latent Dirichlet Allocation潛在狄利克雷配置設定
Latent Semantic Analysis潛在語義分析
Latent Variable潛變量/隐變量
Law of Large Numbers大數定律
Layer Normalization層規範化
Lazy Learning懶惰學習
Leaky Relu洩漏修正線性單元/洩漏整流線性單元
Learner學習器
Learning學習
Learning By Analogy類比學習
Learning Rate學習率
Learning Vector Quantization學習向量量化
Least Square Method最小二乘法
Least Squares Regression Tree最小二乘回歸樹
Left Singular Vector左奇異向量
Likelihood似然
Linear Chain Conditional Random Field線性鍊條件随機場
Linear Classification Model線性分類模型
Linear Classifier線性分類器
Linear Dependence線性相關
Linear Discriminant Analysis線性判别分析
Linear Model線性模型
Linear Regression線性回歸
Link Function聯系函數
Local Markov Property局部馬爾可夫性
Local Minima局部極小
Local Minimum局部極小
Local Representation局部式表示/局部式表征
Log Likelihood對數似然函數
Log Linear Model對數線性模型
Log-Likelihood對數似然
Log-Linear Regression對數線性回歸
Logistic Function對數幾率函數
Logistic Regression對數幾率回歸
Logit對數幾率
Long Short Term Memory長短期記憶
Long Short-Term Memory Network長短期記憶網絡
Loopy Belief Propagation環狀信念傳播
Loss Function損失函數
Low Rank Matrix Approximation低秩矩陣近似
Machine Learning機器學習
Macron-R宏查全率
Manhattan Distance曼哈頓距離
Manifold流形
Manifold Assumption流形假設
Manifold Learning流形學習
Margin間隔
Marginal Distribution邊緣分布
Marginal Independence邊緣獨立性
Marginalization邊緣化
Markov Chain馬爾可夫鍊
Markov Chain Monte Carlo馬爾可夫鍊蒙特卡羅
Markov Decision Process馬爾可夫決策過程
Markov Network馬爾可夫網絡
Markov Process馬爾可夫過程
Markov Random Field馬爾可夫随機場
Mask掩碼
Matrix矩陣
Matrix Inversion逆矩陣
Max Pooling最大彙聚
Maximal Clique最大團
Maximum Entropy Model最大熵模型
Maximum Likelihood Estimation極大似然估計
Maximum Margin最大間隔
Mean Filed平均場
Mean Pooling平均彙聚
Mean Squared Error均方誤差
Mean-Field平均場
Memory Network記憶網絡
Message Passing消息傳遞
Metric Learning度量學習
Micro-R微查全率
Minibatch小批量
Minimal Description Length最小描述長度
Minimax Game極小極大博弈
Minkowski Distance闵可夫斯基距離
Mixture of Experts混合專家模型
Mixture-of-Gaussian高斯混合
Model模型
Model Selection模型選擇
Momentum Method動量法
Monte Carlo Method蒙特卡羅方法
Moral Graph端正圖/道德圖
Moralization道德化
Multi-Class Classification多分類
Multi-Head Attention多頭注意力
Multi-Head Self-Attention多頭自注意力
Multi-Kernel Learning多核學習
Multi-Label Learning多标記學習
Multi-Layer Feedforward Neural Networks多層前饋神經網絡
Multi-Layer Perceptron多層感覺機
Multinomial Distribution多項分布
Multiple Dimensional Scaling多元縮放
Multiple Linear Regression多元線性回歸
Multitask Learning多任務學習
Multivariate Normal Distribution多元正态分布
Mutual Information互資訊
N-Gram ModelN元模型
Naive Bayes Classifier樸素貝葉斯分類器
Naive Bayes樸素貝葉斯
Nearest Neighbor Classifier最近鄰分類器
Negative Log Likelihood負對數似然函數
Neighbourhood Component Analysis近鄰成分分析
Net Input淨輸入
Neural Network神經網絡
Neural Turing Machine神經圖靈機
Neuron神經元
Newton Method牛頓法
No Free Lunch Theorem沒有免費午餐定理
Noise-Contrastive Estimation噪聲對比估計
Nominal Attribute列名屬性
Non-Convex Optimization非凸優化
Non-Metric Distance非度量距離
Non-Negative Matrix Factorization非負矩陣分解
Non-Ordinal Attribute無序屬性
Norm範數
Normal Distribution正态分布
Normalization規範化
Nuclear Norm核範數
Number of Epochs輪數
Numerical Attribute數值屬性
Object Detection目标檢測
Oblique Decision Tree斜決策樹
Occam's Razor奧卡姆剃刀
Odds幾率
Off-Policy異政策
On-Policy同政策
One-Dependent Estimator獨依賴估計
One-Hot獨熱
Online Learning線上學習
Optimizer優化器
Ordinal Attribute有序屬性
Orthogonal正交
Orthogonal Matrix正交矩陣
Out-Of-Bag Estimate包外估計
Outlier異常點
Over-Parameterized過度參數化
Overfitting過拟合
Oversampling過采樣
Pac-LearnablePAC可學習
Padding填充
Pairwise Markov Property成對馬爾可夫性
Parallel Distributed Processing分布式并行處理
Parameter參數
Parameter Estimation參數估計
Parameter Space參數空間
Parameter Tuning調參
Parametric ReLU參數化修正線性單元/參數化整流線性單元
Part-Of-Speech Tagging詞性标注
Partial Derivative偏導數
Partially Observable Markov Decision Processes部分可觀測馬爾可夫決策過程
Partition Function配分函數
Perceptron感覺機
Performance Measure性能度量
Perplexity困惑度
Pointer Network指針網絡
Policy政策
Policy Gradient政策梯度
Policy Iteration政策疊代
Polynomial Kernel Function多項式核函數
Pooling彙聚
Pooling Layer彙聚層
Positive Definite Matrix正定矩陣
Post-Pruning後剪枝
Potential Function勢函數
Power Method幂法
Pre-Training預訓練
Precision查準率/準确率
Prepruning預剪枝
Primal Problem主問題
Primary Visual Cortex初級視覺皮層
Principal Component Analysis主成分分析
Prior先驗
Probabilistic Context-Free Grammar機率上下文無關文法
Probabilistic Graphical Model機率圖模型
Probabilistic Model機率模型
Probability Density Function機率密度函數
Probability Distribution機率分布
Probably Approximately Correct機率近似正确
Proposal Distribution提議分布
Prototype-Based Clustering原型聚類
Proximal Gradient Descent近端梯度下降
Pruning剪枝
Quadratic Loss Function平方損失函數
Quadratic Programming二次規劃
Quasi Newton Method拟牛頓法
Radial Basis Function徑向基函數
Random Forest随機森林
Random Sampling随機采樣
Random Search随機搜尋
Random Variable随機變量
Random Walk随機遊走
Recall查全率/召回率
Receptive Field感受野
Reconstruction Error重構誤差
Rectified Linear Unit修正線性單元/整流線性單元
Recurrent Neural Network循環神經網絡
Recursive Neural Network遞歸神經網絡
Regression回歸
Regularization正則化
Regularizer正則化項
Reinforcement Learning強化學習
Relative Entropy相對熵
Reparameterization再參數化/重參數化
Representation表示
Representation Learning表示學習
Representer Theorem表示定理
Reproducing Kernel Hilbert Space再生核希爾伯特空間
Rescaling再縮放
Reset Gate重置門
Residual Connection殘差連接配接
Residual Network殘差網絡
Restricted Boltzmann Machine受限玻爾茲曼機
Reward獎勵
Ridge Regression嶺回歸
Right Singular Vector右奇異向量
Risk風險
Robustness穩健性
Root Node根結點
Rule Learning規則學習
Saddle Point鞍點
Sample樣本
Sample Complexity樣本複雜度
Sample Space樣本空間
Scalar标量
Selective Ensemble選擇性內建
Self Information自資訊
Self-Attention自注意力
Self-Organizing Map自組織映射網
Self-Training自訓練
Semi-Definite Programming半正定規劃
Semi-Naive Bayes Classifiers半樸素貝葉斯分類器
Semi-Restricted Boltzmann Machine半受限玻爾茲曼機
Semi-Supervised Clustering半監督聚類
Semi-Supervised Learning半監督學習
Semi-Supervised Support Vector Machine半監督支援向量機
Sentiment Analysis情感分析
Separating Hyperplane分離超平面
Sequential Covering序貫覆寫
Sigmoid Belief NetworkSigmoid信念網絡
Sigmoid FunctionSigmoid函數
Signed Distance帶符号距離
Similarity Measure相似度度量
Simulated Annealing模拟退火
Simultaneous Localization And Mapping即時定位與地圖建構
Singular Value奇異值
Singular Value Decomposition奇異值分解
Skip-Gram Model跳元模型
Smoothing平滑
Soft Margin軟間隔
Soft Margin Maximization軟間隔最大化
SoftmaxSoftmax/軟最大化
Softmax FunctionSoftmax函數/軟最大化函數
Softmax RegressionSoftmax回歸/軟最大化回歸
Softplus FunctionSoftplus函數
Span張成子空間
Sparse Coding稀疏編碼
Sparse Representation稀疏表示
Sparsity稀疏性
Specialization特化
Splitting Variable切分變量
Squashing Function擠壓函數
Standard Normal Distribution标準正态分布
State狀态
State Value Function狀态值函數
State-Action Value Function狀态-動作值函數
Stationary Distribution平穩分布
Stationary Point駐點
Statistical Learning統計學習
Steepest Descent最速下降法
Stochastic Gradient Descent随機梯度下降
Stochastic Matrix随機矩陣
Stochastic Process随機過程
Stratified Sampling分層采樣
Stride步幅
Structural Risk結構風險
Structural Risk Minimization結構風險最小化
Subsample子采樣
Subsampling下采樣
Subset Search子集搜尋
Subspace子空間
Supervised Learning監督學習
Support Vector支援向量
Support Vector Expansion支援向量展式
Support Vector Machine支援向量機
Surrogat Loss替代損失
Surrogate Function替代函數
Surrogate Loss Function代理損失函數
Symbolism符号主義
Tangent Propagation正切傳播
Teacher Forcing強制教學
Temporal-Difference Learning時序差分學習
Tensor張量
Test Error測試誤差
Test Sample測試樣本
Test Set測試集
Threshold門檻值
Threshold Logic Unit門檻值邏輯單元
Threshold-Moving門檻值移動
Tied Weight捆綁權重
Tikhonov RegularizationTikhonov正則化
Time Delay Neural Network時延神經網絡
Time Homogenous Markov Chain時間齊次馬爾可夫鍊
Time Step時間步
Token詞元
Tokenization詞元化
Tokenizer詞元分析器
Topic Model話題模型
Topic Modeling話題分析
Trace迹
Training訓練
Training Error訓練誤差
Training Sample訓練樣本
Training Set訓練集
Transductive Learning直推學習
Transductive Transfer Learning直推遷移學習
Transfer Learning遷移學習
TransformerTransformer
Transformer ModelTransformer模型
Transpose轉置
Transposed Convolution轉置卷積
Trial And Error試錯
Trigram三元文法
Turing Machine圖靈機
Underfitting欠拟合
Undersampling欠采樣
Undirected Graphical Model無向圖模型
Uniform Distribution均勻分布
Unigram一進制文法
Unit單元
Universal Approximation Theorem通用近似定理
Universal Approximator通用近似器
Universal Function Approximator通用函數近似器
Unknown Token未知詞元
Unsupervised Layer-Wise Training無監督逐層訓練
Unsupervised Learning無監督學習
Update Gate更新門
Upsampling上采樣
V-StructureV型結構
Validation Set驗證集
Validity Index有效性名額
Value Function Approximation值函數近似
Value Iteration值疊代
Vanishing Gradient Problem梯度消失問題
Vapnik-Chervonenkis DimensionVC維
Variable Elimination變量消去
Variance方差
Variational Autoencoder變分自編碼器
Variational Inference變分推斷
Vector向量
Vector Space Model向量空間模型
Version Space版本空間
Viterbi Algorithm維特比算法
Vocabulary詞表
Warp線程束
Weak Learner弱學習器
Weakly Supervised Learning弱監督學習
Weight權重
Weight Decay權重衰減
Weight Sharing權共享
Weighted Voting權重投票
Whitening白化
Winner-Take-All勝者通吃
Within-Class Scatter Matrix類内散度矩陣
Word Embedding詞嵌入
Word Sense Disambiguation詞義消歧
Word Vector詞向量
Zero Padding零填充
Zero-Shot Learning零試學習
Zipf's Law齊普夫定律
來源：人工智能AI技術