ID3,C4.5,CART的聯系和差別

ID3,C4.5,CART的聯系和差別

ID3和C4.5用于分類問題,CART既可以用于回歸也可以用于分類.

ID3,C4.5,和CART都是由特征選擇,決策樹生成,決策樹剪枝 三者構成.

ID3,C4.5,和CART都屬于貪心算法,容易産生過拟合.

ID3采用資訊增益作為特征選擇的度量,C4.5采用特征增益比率,CART采用基尼系數

ID3和C4.5生成的決策樹可以是多叉的,CART生成的決策樹是二叉樹

ID3和C4.5的剪枝通過優化損失函數實作,CART的剪枝分為(1)剪枝成子樹序列 (2)通過交叉驗證選取最優子樹。