奧卡姆剃刀(Occam's razor)-----“若有多個假設與觀察一緻,則選最簡單的那個”
多釋原則(principle of multiple) -----“主張保留與經驗 觀察一緻的所有假設”
基本術語
錯誤率:把分類錯誤的樣本數占樣本總數的比例。
m個樣本中有a個樣本分類錯誤,,,錯誤率為E=a/m
1-a/m稱位“精度”
精度=1-錯誤率
過拟合:當學習器把訓練樣本學得“太好”了得時候,很可能已經把訓練樣本自身的一些特點當作了所有潛在樣本都會具有的一般特質,這樣就會導緻泛化性能下降。