機器學習-SVM

SVM

基本概念

支援向量機（support vector machines，SVM）是一種二分類模型，它将執行個體的特征向量映射為空間中的一些點，SVM 的目的就是想要畫出一條線，以 “最好地” 區分這兩類點，以至如果以後有了新的點，這條線也能做出很好的分類。SVM 适合中小型資料樣本、非線性、高維的分類問題。

分類

線性可分支援向量機

SVM 将會尋找可以區分兩個類别并且能使間隔（margin）最大的劃分超平面。比較好的劃分超平面，樣本局部擾動時對它的影響最小、産生的分類結果最魯棒、對未見示例的泛化能力最強。

過渡帶越寬，泛化能力越強，更能防止過拟合

損失函數

0/1損失

logistic損失函數

Hinge損失函數

y=1-d 求最小值 損失的和

軟間隔最大化

核函數

解決線性不可分

将向量的次元從低維映射到高維

降低運算複雜度降低運算複雜度

分類

多項式核函數

Sigmoid核函數

高斯核是無窮維的 RBF核

分類器名額

accuracy，precision，recall