ID3,C4.5,CART的联系和区别

ID3,C4.5,CART的联系和区别

ID3和C4.5用于分类问题,CART既可以用于回归也可以用于分类.

ID3,C4.5,和CART都是由特征选择,决策树生成,决策树剪枝 三者构成.

ID3,C4.5,和CART都属于贪心算法,容易产生过拟合.

ID3采用信息增益作为特征选择的度量,C4.5采用特征增益比率,CART采用基尼系数

ID3和C4.5生成的决策树可以是多叉的,CART生成的决策树是二叉树

ID3和C4.5的剪枝通过优化损失函数实现,CART的剪枝分为(1)剪枝成子树序列 (2)通过交叉验证选取最优子树。