Random Forest随机森林概述

左手的ㄟ右手 2022-09-29 14:54 198阅读 0赞

### 引言    ###

在[机器学习][Link 1]中，随机森林由许多的决策树组成，因为这些决策树的形成采用了随机的方法，因此也叫做随机决策树。随机森林中的树之间是没有关联的。当[测试][Link 2]数据进入随机森林时，其实就是让每一颗决策树进行分类，最后取所有决策树中分类结果最多的那类为最终的结果。因此随机森林是一个包含多个决策树的分类器，并且其输出的类别是由个别树输出的类别的众数而定。随机森林可以既可以处理属性为离散值的量，如ID3[算法][Link 3]，也可以处理属性为连续值的量，比如C4.5算法。另外，随机森林还可以用来进行无监督学习聚类和异常点检测。

### 理论描述    ###

随机森林由决策树组成，决策树实际上是将空间用超平面进行划分的一种方法，每次分割的时候，都将当前的空间一分为二，如说下面的决策树，其属性的值都是连续的实数，如图1所示。将空间划分为成的样子如图2所示(注：所使用图片来自于网络)。

![20130825182335640][] ![20130825182437406][]

图1                                                                  图2

随机森林比较适合做多分类问题，训练和预测速度快；同时，对训练数据的容错能力，是一种有效地估计缺失数据的一种方法，当数据集中有大比例的数据缺失时仍然可以保持精度不变和能够有效地处理大的数据集；可以处理没有删减的成千上万的变量；能够在分类的过程中可以生成一个泛化误差的内部无偏估计；能够检测到特征之间的相互影响以及重要性程度；不过出现过度拟合；实现简单容易并行化。

### RF生成过程 ###

具体决策树的生成过程如下所示：

![20130825182703234][]

其中关于信息增益这里就不作具体的介绍，反正信息增益越大，就说明那个属性相对来说越重要。流程图中的identical values 可以理解为是分类值，离散值，就是它本身不具备数值的意义，比如说颜色分为红，绿，蓝等，是人为给它标定的一个离散值而已。流程图中的real values可以理解为连续的实数，也就是说属性本身是具有数值的，比如说物体的长度，这就是一个real value，在进行这种连续值属性构造决策数时，需要按照属性值的范围进行生成子节点。

### RF构造过程 ###

当可以生成好决策树后，就比较容易生成随机森林了。接下来是随机森林的构造过程，如下所示：

第一、假如有N个样本，则有放回的随机选择N个样本(每次随机选择一个样本，然后返回继续选择)。这选择好了的N个样本用来训练一个决策树，作为决策树根节点处的样本。

第二、当每个样本有M个属性时，在决策树的每个节点需要分裂时，随机从这M个属性中选取出m个属性，满足条件m << M。然后从这m个属性中采用某种策略（比如说信息增益）来选择1个属性作为该节点的分裂属性。

第三、决策树形成过程中每个节点都要按照步骤2来分裂（很容易理解，如果下一次该节点选出来的那一个属性是刚刚其父节点分裂时用过的属性，则该节点已经达到了叶子节点，无须继续分裂了）。一直到不能够再分裂为止。注意整个决策树形成过程中没有进行剪枝。

最后、按照步骤1~3建立大量的决策树，这样就构成了随机森林了。

从上面的步骤可以看出，随机森林的随机性体现在每颗数的训练样本是随机的，树中每个节点的分类属性也是随机选择的。有了这2个随机的保证，随机森林就不会产生过拟合的现象了。随机森林有2个参数需要人为控制，一个是森林中树的数量，一般建议取很大。另一个是m的大小，推荐m的值为M的均方根。

[Link 1]: http://lib.csdn.net/base/machinelearning
[Link 2]: http://lib.csdn.net/base/softwaretest
[Link 3]: http://lib.csdn.net/base/datastructure
[20130825182335640]: https://img-blog.csdn.net/20130825182335640
[20130825182437406]: /images/20220708/0a06a2eb11334f539a4da8726ba3c458.png
[20130825182703234]: /images/20220708/93c61b39b33b42a1848bb1e1a7a9eb05.png