决策树的剪枝，分类回归树CART

电玩女神 2022-05-17 07:37 270阅读 0赞

**决策树的剪枝**

决策树为什么要剪枝？原因就是避免决策树“过拟合”样本。前面的算法生成的决策树非常的详细而庞大，每个属性都被详细地加以考虑，决策树的树叶节点所覆盖的训练样本都是“纯”的。因此用这个决策树来对训练样本进行分类的话，你会发现对于训练样本而言，这个树表现堪称完美，它可以100%完美正确得对训练样本集中的样本进行分类（因为决策树本身就是100%完美拟合训练样本的产物）。

但是，这会带来一个问题，如果训练样本中包含了一些错误，按照前面的算法，这些错误也会100%一点不留得被决策树学习了，这就是“过拟合”。C4.5的缔造者昆兰教授很早就发现了这个问题，他作过一个试验，在某一个数据集中，过拟合的决策树的错误率比一个经过简化了的决策树的错误率要高。那么现在的问题就来了，如何在原生的过拟合决策树的基础上，通过剪枝生成一个简化了的决策树？

第一种方法，也是最简单的方法，称之为基于误判的剪枝。这个思路很直接，完全的决策树不是过度拟合么，我再用一个测试数据集来纠正它。对于完全决策树中的每一个非叶子节点的子树，我们尝试着把它替换成一个叶子节点，该叶子节点的类别我们用子树所覆盖训练样本中存在最多的那个类来代替，这样就产生了一个简化决策树，然后比较这两个决策树在测试数据集中的表现，如果简化决策树在测试数据集中的错误比较少，并且该子树里面没有包含另外一个具有类似特性的子树（所谓类似的特性，指的就是把子树替换成叶子节点后，其测试数据集误判率降低的特性），那么该子树就可以替换成叶子节点。该算法以bottom-up的方式遍历所有的子树，直至没有任何子树可以替换使得测试数据集的表现得以改进时，算法就可以终止。

第一种方法很直接，但是需要一个额外的测试数据集，能不能不要这个额外的数据集呢？

为了解决这个问题，于是就提出了悲观剪枝。该方法剪枝的依据是训练样本集中的样本误判率。我们知道一颗分类树的每个节点都覆盖了一个样本集，根据算法这些被覆盖的样本集往往都有一定的误判率，因为如果节点覆盖的样本集的个数小于一定的阈值，那么这个节点就会变成叶子节点，所以叶子节点会有一定的误判率。而每个节点都会包含至少一个的叶子节点，所以每个节点也都会有一定的误判率。悲观剪枝就是递归得估算每个内部节点所覆盖样本节点的误判率。剪枝后该内部节点会变成一个叶子节点，该叶子节点的类别为原内部节点的最优叶子节点所决定。然后比较剪枝前后该节点的错误率来决定是否进行剪枝。该方法和前面提到的第一种方法思路是一致的，不同之处在于如何估计剪枝前分类树内部节点的错误率。

悲观剪枝的思路非常巧妙。把一颗子树（具有多个叶子节点）的分类用一个叶子节点来替代的话，误判率肯定是上升的（这是很显然的，同样的样本子集，如果用子树分类可以分成多个类，而用单颗叶子节点来分的话只能分成一个类，多个类肯定要准确一些）。于是我们需要把子树的误判计算加上一个经验性的惩罚因子。对于一颗叶子节点，它覆盖了N个样本，其中有E个错误，那么该叶子节点的错误率为（E+0.5）/N。这个0.5就是惩罚因子，那么一颗子树，它有L个叶子节点，那么该子树的误判率估计为[![clip\_image030][clip_image030]][clip_image030_clip_image030]。这样的话，我们可以看到一颗子树虽然具有多个子节点，但由于加上了惩罚因子，所以子树的误判率计算未必占到便宜。剪枝后内部节点变成了叶子节点，其误判个数J也需要加上一个惩罚因子，变成J+0.5。那么子树是否可以被剪枝就取决于剪枝后的错误J+0.5在[![clip\_image032][clip_image032]][clip_image032_clip_image032]的标准误差内。

对于样本的误差率e，我们可以根据经验把它估计成各种各样的分布模型，比如是二项式分布，比如是正态分布。我们以二项式分布为例，啰嗦几句来分析一下。什么是二项分布，在n次独立重复试验中，设事件A发生的次数为X，如果每次试验中中事件A发生的概率是p，那么在n次独立重复试验中，事件A恰好发生k次的概率是

[![image][]][image 1]

其概率期望值为np，方差为np(1-p)。比如投骰子就是典型的二项分布，投骰子10次，掷得4点的次数就服从n=10，p=1/6的二项分布。

如果二项分布中n=1时，也就是只统计一次，事件A只可能有两种取值1或0，那么事件A的值所代表的分布就是伯努利分布。B(1,p)~f(1;1,p)就是伯努利分布，伯努利分布式是二项分布的一种特殊形式。比如投硬币，正面值为1，负面值为0，那么硬币为正面的概率为p=0.5，该硬币值就服从概率为0.5的伯努利分布。

当n趋于无限大时，二项式分布就正态分布，如下图。

[![image][image 2]][image_image 2]

那么一棵树错误分类一个样本值为1，正确分类一个样本值为0，该树错误分类的概率（误判率）为e（e为分布的固有属性,可以通过[![clip\_image035][clip_image035]][clip_image035_clip_image035]统计出来），那么树的误判次数就是伯努利分布，我们可以估计出该树的误判次数均值和方差：

[![image][image 3]][image_image 3]

把子树替换成叶子节点后，该叶子的误判次数也是一个伯努利分布，其概率误判率e为(E+0.5)/N，因此叶子节点的误判次数均值为

[![image][image 4]][image_image 4]

那么，如果子树可以被叶子节点替代，它必须满足下面的条件：

[![image][image 5]][image_image 5]

这个条件就是剪枝的标准。根据置信区间，我们设定一定的显著性因子，我们可以估算出误判次数的上下界。

误判次数也可以被估计成一个正态分布，有兴趣大家可以推导一下。

**连续值属性的改进**

相对于那些离散值属性，分类树算法倾向于选择那些连续值属性，因为连续值属性会有更多的分支，熵增益也最大。算法需要克服这种倾向。还记得前面讲得如何克服分类树算法倾向于离散值较多的离散属性么？对了，我们利用增益率来克服这种倾向。增益率也可以用来克服连续值属性倾向。增益率作为选择属性的依据克服连续值属性倾向，这是没有问题的。但是如果利用增益率来选择连续值属性的分界点，会导致一些副作用。分界点将样本分成两个部分，这两个部分的样本个数之比也会影响增益率。根据增益率公式，我们可以发现，当分界点能够把样本分成数量相等的两个子集时（我们称此时的分界点为等分分界点），增益率的抑制会被最大化，因此等分分界点被过分抑制了。子集样本个数能够影响分界点，显然不合理。因此在决定分界点是还是采用增益这个指标，而选择属性的时候才使用增益率这个指标。这个改进能够很好得抑制连续值属性的倾向。当然还有其它方法也可以抑制这种倾向，比如MDL，有兴趣的读者可以自己阅读相关文章。

**处理缺失属性**

如果有些训练样本或者待分类样本缺失了一些属性值，那么该如何处理？要解决这个问题，需要考虑3个问题：

i)当开始决定选择哪个属性用来进行分支时，如果有些训练样本缺失了某些属性值时该怎么办？

ii)一个属性已被选择，那么在决定分支的时候如果有些样本缺失了该属性该如何处理？

iii)当决策树已经生成，但待分类的样本缺失了某些属性，这些属性该如何处理？

针对这三个问题，昆兰提出了一系列解决的思路和方法。

对于问题i),计算属性a的增益或者增益率时，如果有些样本没有属性a，那么可以有这么几种处理方式：

(1)忽略这些缺失属性a的样本。

(2)给缺失属性a的样本赋予属性a一个均值或者最常用的的值。

(3)计算增益或者增益率时根据缺失属性样本个数所占的比率对增益/增益率进行相应的“打折”。

(4)根据其他未知的属性想办法把这些样本缺失的属性补全。

对于问题ii)，当属性a已经被选择，该对样本进行分支的时候，如果有些样本缺失了属性a,那么：

(1)忽略这些样本。

(2)把这些样本的属性a赋予一个均值或者最常出现的值，然后再对他们进行处理。

(3)把这些属性缺失样本，按照具有属性a的样本被划分成的子集样本个数的相对比率，分配到各个子集中去。至于哪些缺失的样本被划分到子集1，哪些被划分到子集2，这个没有一定的准则，可以随机而动。

(4)把属性缺失样本分配给所有的子集，也就是说每个子集都有这些属性缺失样本。

(5)单独为属性缺失的样本划分一个分支子集。

(6)对于缺失属性a的样本，尝试着根据其他属性给他分配一个属性a的值，然后继续处理将其划分到相应的子集。

对于问题iii)，对于一个缺失属性a的待分类样本，有这么几种选择：

(1)如果有单独的确实分支，依据此分支。

(2)把待分类的样本的属性a值分配一个最常出现的a的属性值，然后进行分支预测。

(3)根据其他属性为该待分类样本填充一个属性a值，然后进行分支处理。(F)在决策树中属性a节点的分支上，遍历属性a节点的所有分支，探索可能所有的分类结果，然后把这些分类结果结合起来一起考虑，按照概率决定一个分类。

(4)待分类样本在到达属性a节点时就终止分类，然后根据此时a节点所覆盖的叶子节点类别状况为其分配一个发生概率最高的类。

**推理规则**

C4.5决策树能够根据决策树生成一系列规则集,我们可以把一颗决策树看成一系列规则的组合。一个规则对应着从根节点到叶子节点的路径，该规则的条件是路径上的条件，结果是叶子节点的类别。C4.5首先根据决策树的每个叶子节点生成一个规则集，对于规则集中的每条规则，算法利用“爬山”搜索来尝试是否有条件可以移除，由于移除一个条件和剪枝一个内部节点本质上是一样的，因此前面提到的悲观剪枝算法也被用在这里进行规则简化。MDL准则在这里也可以用来衡量对规则进行编码的信息量和对潜在的规则进行排序。简化后的规则数目要远远小于决策树的叶子节点数。根据简化后的规则集是无法重构原来的决策树的。规则集相比决策树而言更具有可操作性，因此在很多情况下我们需要从决策树中推理出规则集。C4.5有个缺点就是如果数据集增大了一点，那么学习时间会有一个迅速地增长。

**分类回归树CART**

分类回归树(CART,Classification And Regression Tree)也属于一种决策树，上回文我们介绍了[基于ID3算法的决策树][ID3]和C4.5的决策树。这里只介绍CART是怎样用于分类的。

分类回归树是一棵二叉树，且每个非叶子节点都有两个孩子，所以对于第一棵子树其叶子节点数比非叶子节点数多1。

表1

上例是属性有8个，每个属性又有多少离散的值可取。在决策树的每一个节点上我们可以按任一个属性的任一个值进行划分。比如最开始我们按：

1）表面覆盖为毛发和非毛发

2）表面覆盖为鳞片和非鳞片

3）体温为恒温和非恒温

等等产生当前节点的左右两个孩子。按哪种划分最好呢？有3个标准可以用来衡量划分的好坏：GINI指数、双化指数、有序双化指数。下面我们只讲GINI指数。

### GINI指数 ###

总体内包含的类别越杂乱，GINI指数就越大（跟熵的概念很相似）。比如体温为恒温时包含哺乳类5个、鸟类2个，则：

![mathtex.cgi_GINI_1-_5B_28_5Cfrac_7B5_7D_7B7_7D_29_5E2_28_5Cfrac_7B2_7D_7B7_7D_29_5E2_5D_5Cfrac_7B20_7D_7B49_7D][]

体温为非恒温时包含爬行类3个、鱼类3个、两栖类2个,则

![mathtex.cgi_GINI_1-_5B_28_5Cfrac_7B3_7D_7B8_7D_29_5E2_28_5Cfrac_7B3_7D_7B8_7D_29_5E2_28_5Cfrac_7B2_7D_7B8_7D_29_5E2_5D_5Cfrac_7B42_7D_7B64_7D][]

所以如果按照“体温为恒温和非恒温”进行划分的话，我们得到GINI的增益（类比信息增益）：

![mathtex.cgi_GINI_5C_Gain_5Cfrac_7B7_7D_7B15_7D_5Cfrac_7B20_7D_7B49_7D_5Cfrac_7B8_7D_7B15_7D_5Cfrac_7B42_7D_7B64_7D][]

最好的划分就是使得GINI\_Gain最小的划分。

### 终止条件 ###

一个节点产生左右孩子后，递归地对左右孩子进行划分即可产生分类回归树。这里的终止条件是什么？什么时候节点就可以停止分裂了？直观的情况，当节点包含的数据记录都属于同一个类别时就可以终止分裂了。这只是一个特例，更一般的情况我们计算χ2值来判断分类条件和类别的相关程度，当χ2很小时说明分类条件和类别是独立的，即按照该分类条件进行分类是没有道理的，此时节点停止分裂。注意这里的“分类条件”是指按照GINI\_Gain最小原则得到的“分类条件”。

假如在构造分类回归树的第一步我们得到的“分类条件”是：体温为恒温和非恒温。此时：

这里χ2的计算方法就不说了。当选定置信水平后查表可得“体温”与动物类别是否相互独立。

还有一种方式就是，如果某一分支覆盖的样本的个数如果小于一个阈值，那么也可产生叶子节点，从而终止Tree-Growth。

### 剪枝 ###

当分类回归树划分得太细时，会对噪声数据产生过拟合作用。因此我们要通过剪枝来解决。剪枝又分为前剪枝和后剪枝：前剪枝是指在构造树的过程中就知道哪些节点可以剪掉，于是干脆不对这些节点进行分裂，在[N皇后问题和背包问题][N]中用的都是前剪枝，上面的χ2方法也可以认为是一种前剪枝；后剪枝是指构造出完整的决策树之后再来考查哪些子树可以剪掉。

在分类回归树中可以使用的后剪枝方法有多种，比如：代价复杂性剪枝、最小误差剪枝、悲观误差剪枝等等。这里我们只介绍代价复杂性剪枝法。

对于分类回归树中的每一个非叶子节点计算它的表面误差率增益值α。

![mathtex.cgi_5Calpha_5Cfrac_7BR_28t_29-R_28T_t_29_7D_7B_7CN_7BT_t_7D_7C-1_7D][]

![mathtex.cgi_7CN_7BT_t_7D_7C][]是子树中包含的叶子节点个数;

![mathtex.cgi_R_28t_29][]是节点t的误差代价，如果该节点被剪枝;

![mathtex.cgi_R_28t_29_r_28t_29_p_28t_29][]

r(t)是节点t的误差率;

p(t)是节点t上的数据占所有数据的比例。

![mathtex.cgi_R_28T_t_29][]是子树Tt的误差代价，如果该节点不被剪枝。它等于子树Tt上所有叶子节点的误差代价之和。

比如有个非叶子节点t4如图所示：

![2012100121270768.png][]

已知所有的数据总共有60条，则节点t4的节点误差代价为：

![mathtex.cgi_R_28t_29_r_28t_29_p_28t_29_5Cfrac_7B7_7D_7B16_7D_5Cfrac_7B16_7D_7B60_7D_5Cfrac_7B7_7D_7B60_7D][]

子树误差代价为：

![mathtex.cgi_R_28T_t_29_5Csum_7BR_28i_29_7D_28_5Cfrac_7B2_7D_7B5_7D_5Cfrac_7B5_7D_7B60_7D_29_28_5Cfrac_7B0_7D_7B2_7D_5Cfrac_7B2_7D_7B60_7D_29_28_5Cfrac_7B3_7D_7B9_7D_5Cfrac_7B9_7D_7B60_7D_29_5Cfrac_7B5_7D_7B60_7D][]

以t4为根节点的子树上叶子节点有3个，最终：

![60_7D_7B3-1_7D_5Cfrac_7B1_7D_7B6_7D][]

找到α值最小的非叶子节点，令其左右孩子为NULL。当多个非叶子节点的α值同时达到最小时，取![mathtex.cgi_7CN_7BT_t_7D_7C][]最大的进行剪枝。

[clip_image030]: http://s8.sinaimg.cn/middle/68ffc7a44afbc847216e7&amp;690
[clip_image030_clip_image030]: http://photo.blog.sina.com.cn/list/blogpic.php?pid=68ffc7a44afbc847216e7&bid=68ffc7a40100urn3&uid=1761593252
[clip_image032]: http://s6.sinaimg.cn/middle/68ffc7a4077f94074a495&amp;690
[clip_image032_clip_image032]: /images/20220517/31fd5facff514524a8471c88c39fb711.png
[image]: /images/20220517/44a21d5614aa48cf8df8dfe6242d7231.png
[image 1]: http://s5.sinaimg.cn/middle/68ffc7a44afbc84b179d4&amp;690
[image 2]: http://s6.sinaimg.cn/middle/68ffc7a44afbc84f0ddd5&amp;690
[image_image 2]: /images/20220517/63c08fc370594d2782eb045848e6ab4f.png
[clip_image035]: http://s12.sinaimg.cn/middle/68ffc7a44afbc850d1b5b&amp;690
[clip_image035_clip_image035]: /images/20220517/50fbf81d05a440fd8481ac4472808f7b.png
[image 3]: http://s11.sinaimg.cn/middle/68ffc7a44afbc855a7a5a&amp;690
[image_image 3]: /images/20220517/c2a5b0c3c7b24754a1a1c3a7cf8900cc.png
[image 4]: http://s2.sinaimg.cn/middle/68ffc7a44afbc85723291&amp;690
[image_image 4]: /images/20220517/cce596a73464499ab58f1aa7356ff324.png
[image 5]: http://s8.sinaimg.cn/middle/68ffc7a4077f940901d97&amp;690
[image_image 5]: /images/20220517/ae64fca684704d77b3304b0459473f96.png
[ID3]: http://www.cnblogs.com/zhangchaoyang/articles/2196631.html
[mathtex.cgi_GINI_1-_5B_28_5Cfrac_7B5_7D_7B7_7D_29_5E2_28_5Cfrac_7B2_7D_7B7_7D_29_5E2_5D_5Cfrac_7B20_7D_7B49_7D]: http://www.forkosh.com/mathtex.cgi?GINI=1-%5B%28%5Cfrac%7B5%7D%7B7%7D%29%5E2+%28%5Cfrac%7B2%7D%7B7%7D%29%5E2%5D=%5Cfrac%7B20%7D%7B49%7D
[mathtex.cgi_GINI_1-_5B_28_5Cfrac_7B3_7D_7B8_7D_29_5E2_28_5Cfrac_7B3_7D_7B8_7D_29_5E2_28_5Cfrac_7B2_7D_7B8_7D_29_5E2_5D_5Cfrac_7B42_7D_7B64_7D]: http://www.forkosh.com/mathtex.cgi?GINI=1-%5B%28%5Cfrac%7B3%7D%7B8%7D%29%5E2+%28%5Cfrac%7B3%7D%7B8%7D%29%5E2+%28%5Cfrac%7B2%7D%7B8%7D%29%5E2%5D=%5Cfrac%7B42%7D%7B64%7D
[mathtex.cgi_GINI_5C_Gain_5Cfrac_7B7_7D_7B15_7D_5Cfrac_7B20_7D_7B49_7D_5Cfrac_7B8_7D_7B15_7D_5Cfrac_7B42_7D_7B64_7D]: http://www.forkosh.com/mathtex.cgi?GINI%5C_Gain=%5Cfrac%7B7%7D%7B15%7D*%5Cfrac%7B20%7D%7B49%7D+%5Cfrac%7B8%7D%7B15%7D*%5Cfrac%7B42%7D%7B64%7D
[N]: http://www.cnblogs.com/zhangchaoyang/articles/2676958.html
[mathtex.cgi_5Calpha_5Cfrac_7BR_28t_29-R_28T_t_29_7D_7B_7CN_7BT_t_7D_7C-1_7D]: /images/20220517/4889d360a8da485abd1f8b781d62e989.png
[mathtex.cgi_7CN_7BT_t_7D_7C]: /images/20220517/60672030649e410b907e39e47d88aab4.png
[mathtex.cgi_R_28t_29]: /images/20220517/4f90e1f13dec429ba8b26144042ce0ab.png
[mathtex.cgi_R_28t_29_r_28t_29_p_28t_29]: /images/20220517/4f90e1f13dec429ba8b26144042ce0ab.png=r%28t%29*p%28t%29
[mathtex.cgi_R_28T_t_29]: /images/20220517/df22bc58c6404fc982b417431c090c80.png
[2012100121270768.png]: /images/20220517/5e1dee57f7e34d93a262c3ae418a0fbd.png
[mathtex.cgi_R_28t_29_r_28t_29_p_28t_29_5Cfrac_7B7_7D_7B16_7D_5Cfrac_7B16_7D_7B60_7D_5Cfrac_7B7_7D_7B60_7D]: /images/20220517/4f90e1f13dec429ba8b26144042ce0ab.png=r%28t%29*p%28t%29=%5Cfrac%7B7%7D%7B16%7D*%5Cfrac%7B16%7D%7B60%7D=%5Cfrac%7B7%7D%7B60%7D
[mathtex.cgi_R_28T_t_29_5Csum_7BR_28i_29_7D_28_5Cfrac_7B2_7D_7B5_7D_5Cfrac_7B5_7D_7B60_7D_29_28_5Cfrac_7B0_7D_7B2_7D_5Cfrac_7B2_7D_7B60_7D_29_28_5Cfrac_7B3_7D_7B9_7D_5Cfrac_7B9_7D_7B60_7D_29_5Cfrac_7B5_7D_7B60_7D]: /images/20220517/df22bc58c6404fc982b417431c090c80.png=%5Csum%7BR%28i%29%7D=%28%5Cfrac%7B2%7D%7B5%7D*%5Cfrac%7B5%7D%7B60%7D%29+%28%5Cfrac%7B0%7D%7B2%7D*%5Cfrac%7B2%7D%7B60%7D%29+%28%5Cfrac%7B3%7D%7B9%7D*%5Cfrac%7B9%7D%7B60%7D%29=%5Cfrac%7B5%7D%7B60%7D
[60_7D_7B3-1_7D_5Cfrac_7B1_7D_7B6_7D]: /images/20220517/7ec7e396e14b47f8aa17ca53e4a95a66.png