天天看点

决策树ID3,C4.5原理

在上一篇博文中已经根据具体的实例介绍了决策树:

在这里附上博文链接(https://blog.csdn.net/jodie123456/article/details/88532344)

下面具体介绍决策树的剪枝,ID3,C4.5,CART算法。

首先,决策树学习的步骤有如下步骤:

①特征选择:特征选择即我们用哪个特征来划分空间。我们常用信息增益、信息增益比或基尼系数来作为划分依据。 

②决策树的生成:常用算法有ID3,C4.5,CART 

②决策树的剪枝:常用方法有极小化决策树整体的损失函数、CART剪枝算法

详细请见原博文链接

https://blog.csdn.net/u013597931/article/details/79768494

继续阅读