統計學習方法筆記---1201、統計學習方法總結

統計學習方法筆記---1201、統計學習方法總結

一、總結

一句話總結：

本書共介紹了10種主要的統計學習方法：【感覺機】、【k近鄰法】、【樸素貝葉斯法】、【決策樹】、【邏輯斯谛回歸與最大熵模型】、【支援向量機】、【提升方法】、【EM算法】、【隐馬爾可夫模型】和【條件随機場】.

1、10種統計學習方法特點的概括總結（1：【感覺機】；2：【k近鄰法】；3：【樸素貝葉斯法】）？

1：【感覺機】；适用問題：【二類分類】；模型特點：【分離超平面】；模型類型：【判别模型】；學習政策：【極小化誤分點到超平面距離】；學習的損失函數：【誤分點到超平面距離】；學習算法：【随機梯度下降】

2：【k近鄰法】；适用問題：【多類分類，回歸】；模型特點：【特征空間，樣本點】；模型類型：【判别模型】

3：【樸素貝葉斯法】；适用問題：【多類分類】；模型特點：【特征與類别的聯合機率分布，條件獨立假設】；模型類型：【生成模型】；學習政策：【極大似然估計，極大後驗機率估計】；學習的損失函數：【對數似然損失】；學習算法：【機率計算公式，EM算法】

2、10種統計學習方法特點的概括總結（4：【決策樹】；5：【邏輯斯谛回歸與最大熵模型】）？

4：【決策樹】；适用問題：【多類分類，回歸】；模型特點：【分類樹，回歸樹】；模型類型：【判别模型】；學習政策：【正則化的極大似然估計】；學習的損失函數：【對數似然損失】；學習算法：【特征選擇，生成，剪枝】

5：【邏輯斯谛回歸與最大熵模型】；适用問題：【多類分類】；模型特點：【特征條件下類别的條件機率分布，對數線形模型】；模型類型：【判别模型】；學習政策：【極大似然估計，正則化的極大似然估計】；學習的損失函數：【邏輯斯谛損失】；學習算法：【改進的疊代尺度算法，梯度下降，拟牛頓法】

3、10種統計學習方法特點的概括總結（6：【支援向量機】；7：【提升方法】；8：【EM算法】）？

6：【支援向量機】；适用問題：【二類分類】；模型特點：【分離超平面，核技巧】；模型類型：【判别模型】；學習政策：【極小化正則化合頁損失，軟間隔最大化】；學習的損失函數：【合頁損失】；學習算法：【序列最小最優化算法（SMO）】

7：【提升方法】；适用問題：【二類分類】；模型特點：【弱分類器的線性組合】；模型類型：【判别模型】；學習政策：【極小化加法模型的指數損失】；學習的損失函數：【指數損失】；學習算法：【前向分步加法算法】

8：【EM算法】；适用問題：【機率模型參數估計】；模型特點：【含隐變量機率模型】；學習政策：【極大似然估計，極大後驗機率估計】；學習的損失函數：【對數似然損失】；學習算法：【疊代算法】

4、10種統計學習方法特點的概括總結（9：【隐馬爾可夫模型】；10：【條件随機場】）？

9：【隐馬爾可夫模型】；适用問題：【标注】；模型特點：【觀測序列與狀态序列的聯合機率分布模型】；模型類型：【生成模型】；學習政策：【極大似然估計，極大後驗機率佔估計】；學習的損失函數：【對數似然損失】；學習算法：【機率計算公式，EM算法】

10：【條件随機場】；适用問題：【标注】；模型特點：【狀态序列條件下觀測序列的條件機率分布，對數線性模型】；模型類型：【判别模型】；學習政策：【極大似然估計，正則化極大似然估計】；學習的損失函數：【對數似然損失】；學習算法：【改進的疊代尺度算法，梯度下降，拟牛頓法】

人工智能群：939687837

​