機器學習——第二章筆記

基于距離的分類器

MED分類器

• 定義：把測試樣本到每個類之前的距離作為決策模型，将測試樣本判定為與其距離最近的類。

類的原型

• 概念：用來代表這個類的一個模式或者一組量，便于計算該類和測試樣本之間的距離

\[d(x,Ci)=d(y,Zi)

\]

其中Zi表示類Ci的原型

原型的種類

均值

最近鄰

距離度量

方式：歐氏距離，曼哈頓距離，權重歐氏距離

概念：最小歐氏距離分類器。

• 距離衡量：歐氏距離
• 類的原型：均值
• 決策邊界

  

特征白化

目的：去除特征變化的不同及特征之間的相關性。

• 特征正交白化

  

  

• 特征解耦

  

MICD分類器

概念：最小類内距離分類器，基于馬氏距離的分類器。

• 判别公式

  

•