决策树学习笔记整理

灰太狼 2022-09-21 15:23 111阅读 0赞

本文目的

最近一段时间在[Coursera][]上学习[Data Analysis][]，里面有个assignment涉及到了决策树，所以参考了一些决策树方面的资料，现在将学习过程的笔记整理记录于此，作为备忘。

算法原理

决策树（Decision Tree）是一种简单但是广泛使用的分类器。通过训练数据构建决策树，可以高效的对未知的数据进行分类。决策数有两大优点：1）决策树模型可以读性好，具有描述性，有助于人工分析；2）效率高，决策树只需要一次构建，反复使用，每一次预测的最大计算次数不超过决策树的深度。

如何预测

先看看下面的数据表格：

<table style="margin:0px; padding:0px; border-collapse:collapse; border-spacing:0px; border:1px solid silver; word-break:break-word; color:rgb(0,0,0); font-family:Verdana,Arial,Helvetica,sans-serif; font-size:14px; line-height:21px"> 
 <tbody style="margin:0px; padding:0px"> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> ID </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 拥有房产（是/否） </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 婚姻情况（单身，已婚，离婚） </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 年收入（单位：千元） </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 无法偿还债务（是/否） </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 1 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 是 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 单身 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 125 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 2 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 已婚 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 100 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 3 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 单身 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 70 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 4 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 是 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 已婚 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 120 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 5 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 离婚 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 95 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 是 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 6 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 已婚 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 60 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 7 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 是 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 离婚 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 220 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 8 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 单身 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 85 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 是 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 9 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 已婚 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 75 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 10 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 否 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 单身 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 90 </td> 
 <td style="margin:0px; padding:3px; border:1px solid silver; border-collapse:collapse"> 是 </td> 
 </tr> 
 </tbody> 
</table>

上表根据历史数据，记录已有的用户是否可以偿还债务，以及相关的信息。通过该数据，构建的决策树如下：

比如新来一个用户：无房产，单身，年收入55K，那么根据上面的决策树，可以预测他无法偿还债务（蓝色虚线路径）。从上面的决策树，还可以知道是否拥有房产可以很大的决定用户是否可以偿还债务，对借贷业务具有指导意义。

基本步骤

决策树构建的基本步骤如下：

1. 开始，所有记录看作一个节点

2. 遍历每个变量的每一种分割方式，找到最好的分割点

3. 分割成两个节点N1和N2

4. 对N1和N2分别继续执行2-3步，直到每个节点足够“纯”为止

决策树的变量可以有两种：

1） 数字型（Numeric）：变量类型是整数或浮点数，如前面例子中的“年收入”。用“>=”，“>”,“<”或“<=”作为分割条件（排序后，利用已有的分割情况，可以优化分割算法的时间复杂度）。

2） 名称型（Nominal）：类似编程语言中的枚举类型，变量只能重有限的选项中选取，比如前面例子中的“婚姻情况”，只能是“单身”，“已婚”或“离婚”。使用“=”来分割。

如何评估分割点的好坏？如果一个分割点可以将当前的所有节点分为两类，使得每一类都很“纯”，也就是同一类的记录较多，那么就是一个好分割点。比如上面的例子，“拥有房产”，可以将记录分成了两类，“是”的节点全部都可以偿还债务，非常“纯”；“否”的节点，可以偿还贷款和无法偿还贷款的人都有，不是很“纯”，但是两个节点加起来的纯度之和与原始节点的纯度之差最大，所以按照这种方法分割。构建决策树采用贪心算法，只考虑当前纯度差最大的情况作为分割点。

量化纯度

前面讲到，决策树是根据“纯度”来构建的，如何量化纯度呢？这里介绍三种纯度计算方法。如果记录被分为n类，每一类的比例P(i)=第i类的数目/总数目。还是拿上面的例子，10个数据中可以偿还债务的记录比例为P(1) = 7/10 = 0.7，无法偿还的为P(2) = 3/10 = 0.3，N = 2。

Gini不纯度

[![image][]][image 1]

熵（Entropy）

[![image][image 2]][image_image 2]

错误率

[![image][image 3]][image_image 3]

上面的三个公式均是值越大，表示越 “不纯”，越小表示越“纯”。三种公式只需要取一种即可，实践证明三种公司的选择对最终分类准确率的影响并不大，一般使用熵公式。

纯度差，也称为信息增益（Information Gain），公式如下：

[![image][image 4]][image_image 4]

其中，I代表不纯度（也就是上面三个公式的任意一种），K代表分割的节点数，一般K = 2。vj表示子节点中的记录数目。上面公式实际上就是当前节点的不纯度减去子节点不纯度的加权平均数，权重由子节点记录数与当前节点记录数的比例决定。

停止条件

决策树的构建过程是一个递归的过程，所以需要确定停止条件，否则过程将不会结束。一种最直观的方式是当每个子节点只有一种类型的记录时停止，但是这样往往会使得树的节点过多，导致过拟合问题（Overfitting）。另一种可行的方法是当前节点中的记录数低于一个最小的阀值，那么就停止分割，将max(P(i))对应的分类作为当前叶节点的分类。

过渡拟合

采用上面算法生成的决策树在事件中往往会导致过滤拟合。也就是该决策树对训练数据可以得到很低的错误率，但是运用到测试数据上却得到非常高的错误率。过渡拟合的原因有以下几点：

*  噪音数据：训练数据中存在噪音数据，决策树的某些节点有噪音数据作为分割标准，导致决策树无法代表真实数据。
 *  缺少代表性数据：训练数据没有包含所有具有代表性的数据，导致某一类数据无法很好的匹配，这一点可以通过观察混淆矩阵（Confusion Matrix）分析得出。
 *  多重比较（Mulitple Comparition）：举个列子，股票分析师预测股票涨或跌。假设分析师都是靠随机猜测，也就是他们正确的概率是0.5。每一个人预测10次，那么预测正确的次数在8次或8次以上的概率为 [![image][image 5]][image_image 5]，只有5%左右，比较低。但是如果50个分析师，每个人预测10次，选择至少一个人得到8次或以上的人作为代表，那么概率为 [![image][image 6]][image_image 6]，概率十分大，随着分析师人数的增加，概率无限接近1。但是，选出来的分析师其实是打酱油的，他对未来的预测不能做任何保证。上面这个例子就是多重比较。这一情况和决策树选取分割点类似，需要在每个变量的每一个值中选取一个作为分割的代表，所以选出一个噪音分割标准的概率是很大的。

优化方案1：修剪枝叶

决策树过渡拟合往往是因为太过“茂盛”，也就是节点过多，所以需要裁剪（Prune Tree）枝叶。裁剪枝叶的策略对决策树正确率的影响很大。主要有两种裁剪策略。

前置裁剪 在构建决策树的过程时，提前停止。那么，会将切分节点的条件设置的很苛刻，导致决策树很短小。结果就是决策树无法达到最优。实践证明这中策略无法得到较好的结果。

后置裁剪 决策树构建好后，然后才开始裁剪。采用两种方法：1）用单一叶节点代替整个子树，叶节点的分类采用子树中最主要的分类；2）将一个字数完全替代另外一颗子树。后置裁剪有个问题就是计算效率，有些节点计算后就被裁剪了，导致有点浪费。

优化方案2：K-Fold Cross Validation

首先计算出整体的决策树T，叶节点个数记作N，设i属于\[1,N\]。对每个i，使用[K-Fold Validataion][]方法计算决策树，并裁剪到i个节点，计算错误率，最后求出平均错误率。这样可以用具有最小错误率对应的i作为最终决策树的大小，对原始决策树进行裁剪，得到最优决策树。

优化方案3：Random Forest

[Random Forest][]是用训练数据随机的计算出许多决策树，形成了一个森林。然后用这个森林对未知数据进行预测，选取投票最多的分类。实践证明，此算法的错误率得到了经一步的降低。这种方法背后的原理可以用“三个臭皮匠定一个诸葛亮”这句谚语来概括。一颗树预测正确的概率可能不高，但是集体预测正确的概率却很高。

准确率估计

决策树T构建好后，需要估计预测准确率。直观说明，比如N条测试数据，X预测正确的记录数，那么可以估计acc = X/N为T的准确率。但是，这样不是很科学。因为我们是通过样本估计的准确率，很有可能存在偏差。所以，比较科学的方法是估计一个准确率的区间，这里就要用到统计学中的置信区间（[Confidence Interval][]）。

设T的准确率p是一个客观存在的值，X的概率分布为X ~ B(N,p)，即X遵循概率为p，次数为N的二项分布（Binomial Distribution），期望E(X) = N\*p，方差Var(X) = N\*p\*(1-p)。由于当N很大时，二项分布可以近似有正太分布（Normal Distribution）计算，一般N会很大，所以X ~ N(np,n\*p\*(1-p))。可以算出，acc = X/N的期望E(acc) = E(X/N) = E(X)/N = p，方差Var(acc) = Var(X/N) = Var(X) / N2 = p\*(1-p) / N，所以acc ~ N(p,p\*(1-p)/N)。这样，就可以通过正太分布的置信区间的计算方式计算执行区间了。

正太分布的置信区间求解如下：

1） 将acc标准化，即[![image][image 7]][image_image 7]

2） 选择置信水平α= 95%，或其他值，这取决于你需要对这个区间有多自信。一般来说，α越大，区间越大。

3） 求出 α/2和1-α/2对应的标准正太分布的统计量 [![image][image 8]][image_image 8]和[![image][image 9]][image_image 9] （均为常量）。然后解下面关于p的不等式。acc可以有样本估计得出。即可以得到关于p的执行区间

[![image][image 10]][image_image 10]

参考资料

\[1\] 《数据挖掘导论》Chapter 4 Classification:Basic Concepts, Decision Trees, and Model Evaluation，Pang-Ning Tan & Micheal Steinbach & Vipin Kumar著

\[2\] Data Analyis, Lectures in Week 6,7 at Coursera

\[3\] 《集体智慧编程》Chapter 7 Modeling with Decision Tree，Toby Segaran著

\[4\] 《Head First Statistics》 Chapter 12 置信区间的构造, Dawn Griffiths 著

[Coursera]: https://www.coursera.org/
[Data Analysis]: https://www.coursera.org/course/dataanalysis
[image]: /images/20220721/8e88f87976c44c0f876efe975c237a5c.png
[image 1]: http://images.cnitblog.com/blog/349490/201303/15154347-20d86a8fd9624fd6be377ee2ea2466f7.png
[image 2]: http://images.cnitblog.com/blog/349490/201303/15154348-d876ac3d134c4b94a50acab198ead570.png
[image_image 2]: /images/20220721/1ba7997894964d3d8dd90c801f2cac0a.png
[image 3]: http://images.cnitblog.com/blog/349490/201303/15154351-9f6110dd38664ef1a6f286809a29e8dc.png
[image_image 3]: /images/20220721/3496797ea8554d66ac468894324b0ba9.png
[image 4]: http://images.cnitblog.com/blog/349490/201303/15154352-ac151a7654e647039eb000512e83399f.png
[image_image 4]: /images/20220721/a98c9b1584814035b2b8da8f98deaeca.png
[image 5]: http://images.cnitblog.com/blog/349490/201303/15154352-dd92afccc91e4e2e9a08578d8ba9ab04.png
[image_image 5]: http://images.cnitblog.com/blog/349490/201303/15154352-831a596c9a3c4fcca3d6e8f863b2f91f.png
[image 6]: http://images.cnitblog.com/blog/349490/201303/15154353-c827fc2a20e74c31a3f6a1f1d64a436c.png
[image_image 6]: /images/20220721/d9531e19492944f38667d8c02566029e.png
[K-Fold Validataion]: http://www.cnblogs.com/bourneli/archive/2013/03/11/2954060.html
[Random Forest]: http://en.wikipedia.org/wiki/Random_forest
[Confidence Interval]: http://en.wikipedia.org/wiki/Confidence_interval
[image 7]: http://images.cnitblog.com/blog/349490/201303/15154353-f69caa25425941f08c13d5eeb46d7dd6.png
[image_image 7]: /images/20220721/db575ff80b4446d5b60ad0c447291cb4.png
[image 8]: http://images.cnitblog.com/blog/349490/201303/15154354-a2468362d500417ea832de22c38a75da.png
[image_image 8]: http://images.cnitblog.com/blog/349490/201303/15154353-66a669b8314f460c8f0e554b71878128.png
[image 9]: http://images.cnitblog.com/blog/349490/201303/15154354-6c55e7aee81d423dbe31a15b0854b16c.png
[image_image 9]: /images/20220721/da845a8d8c304381885c04acc4980268.png
[image 10]: http://images.cnitblog.com/blog/349490/201303/15154355-e6a0c8327fb6492cb77ecff95e6ad393.png
[image_image 10]: /images/20220721/5abdd29550b8410fa99dcf7b4587e7ad.png