06 SVM - 線性可分模型算法和案例

05 SVM - 支援向量機 - 概念、線性可分

三、線性可分SVM算法流程

輸入線性可分的m個樣本資料{(x1,y1),(x2,y2),...,(xm,ym)}，其中x為n維的特征向量，y為二進制輸出，取值為+1或者-1；SVM模型輸出為參數w、b以及分類決策函數。

1、構造限制優化問題；

2、使用SMO算法求出上式優化中對應的最優解β*；

3、找出所有的支援向量集合S;

4、更新參數w、b的值；

5、建構最終的分類器

四、線性可分案例

回顧 ：構造限制優化問題的公式

案例：

給定三個資料點：正例點x1=(3,3),x2=(4,3), 負例點x3=(1,1)，構造此時的限制優化條件。

五、線性可分SVM總結

1、要求資料必須是線性可分的。

2、純線性可分的SVM模型對于異常資料的預測可能會不太準。

3、對于線性可分的資料，SVM分類器的效果非常不錯。

07 SVM - 軟間隔模型