集成学习总结 & Stacking方法详解

以你之姓@ 2022-04-11 14:47 392阅读 0赞

集成学习主要分为 bagging， boosting 和 stacking方法。本文主要是介绍stacking方法及其应用。但是在总结之前还是先回顾一下继承学习。

这部分主要转自知乎。

1. Bagging方法：

给定一个大小为n的训练集 D，Bagging算法从中均匀、有放回地选出 m个大小为 n' 的子集Di，作为新的训练集。在这 m个训练集上使用分类、回归等算法，则可得到 m个模型，再通过取平均值、取多数票等方法综合产生预测结果，即可得到Bagging的结果。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3podWlxaXV1dXU_size_16_color_FFFFFF_t_70][]

2. Boosting 方法

加入的过程中，通常根据它们的上一轮的分类准确率给予不同的权重。加和弱学习者之后，数据通常会被重新加权，来强化对之前分类错误数据点的分类，其中一个经典的提升算法例子是AdaBoost。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3podWlxaXV1dXU_size_16_color_FFFFFF_t_70 1][]

3. Stacking 方法：

将训练好的所有基模型对整个训练集进行预测，第j个基模型对第i个训练样本的预测值将作为新的训练集中第i个样本的第j个特征值，最后基于新的训练集进行训练。同理，预测的过程也要先经过所有基模型的预测形成新的测试集，最后再对测试集进行预测：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3podWlxaXV1dXU_size_16_color_FFFFFF_t_70 2][]

下面我们介绍一款功能强大的stacking利器，mlxtend库，它可以很快地完成对sklearn模型地stacking。

主要有以下几种使用方法吧：

I. 最基本的使用方法，即使用前面分类器产生的特征输出作为最后总的meta-classifier的输入数据

from sklearn import datasets  
   
iris = datasets.load\_iris()  
X, y = iris.data\[:, 1:3\], iris.target  
   
from sklearn import model\_selection  
from sklearn.linear\_model import LogisticRegression  
from sklearn.neighbors import KNeighborsClassifier  
from sklearn.naive\_bayes import GaussianNB   
from sklearn.ensemble import RandomForestClassifier  
from mlxtend.classifier import StackingClassifier  
import numpy as np  
   
clf1 = KNeighborsClassifier(n\_neighbors=1)  
clf2 = RandomForestClassifier(random\_state=1)  
clf3 = GaussianNB()  
lr = LogisticRegression()  
sclf = StackingClassifier(classifiers=\[clf1, clf2, clf3\],   
                          meta\_classifier=lr)  
   
print('3-fold cross validation:\\n')  
   
for clf, label in zip(\[clf1, clf2, clf3, sclf\],   
                      \['KNN',   
                       'Random Forest',   
                       'Naive Bayes',  
                       'StackingClassifier'\]):  
   
    scores = model\_selection.cross\_val\_score(clf, X, y,   
                                              cv=3, scoring='accuracy')  
    print("Accuracy: %0.2f (+/- %0.2f) \[%s\]"   
          % (scores.mean(), scores.std(), label))

II. 另一种使用第一层基本分类器产生的类别概率值作为meta-classfier的输入，这种情况下需要将StackingClassifier的参数设置为 use\_probas=True。如果将参数设置为 average\_probas=True，那么这些基分类器对每一个类别产生的概率值会被平均，否则会拼接。

例如有两个基分类器产生的概率输出为：

classifier 1: \[0.2, 0.5, 0.3\]

classifier 2: \[0.3, 0.4, 0.4\]

1) average = True :

产生的meta-feature 为：\[0.25, 0.45, 0.35\]

2) average = False:

产生的meta-feature为：\[0.2, 0.5, 0.3, 0.3, 0.4, 0.4\]

from sklearn import datasets  
   
iris = datasets.load\_iris()  
X, y = iris.data\[:, 1:3\], iris.target  
   
from sklearn import model\_selection  
from sklearn.linear\_model import LogisticRegression  
from sklearn.neighbors import KNeighborsClassifier  
from sklearn.naive\_bayes import GaussianNB   
from sklearn.ensemble import RandomForestClassifier  
from mlxtend.classifier import StackingClassifier  
import numpy as np  
   
clf1 = KNeighborsClassifier(n\_neighbors=1)  
clf2 = RandomForestClassifier(random\_state=1)  
clf3 = GaussianNB()  
lr = LogisticRegression()  
sclf = StackingClassifier(classifiers=\[clf1, clf2, clf3\],  
                          use\_probas=True,  
                          average\_probas=False,  
                          meta\_classifier=lr)  
   
print('3-fold cross validation:\\n')  
   
for clf, label in zip(\[clf1, clf2, clf3, sclf\],   
                      \['KNN',   
                       'Random Forest',   
                       'Naive Bayes',  
                       'StackingClassifier'\]):  
   
    scores = model\_selection.cross\_val\_score(clf, X, y,   
                                              cv=3, scoring='accuracy')  
    print("Accuracy: %0.2f (+/- %0.2f) \[%s\]"   
          % (scores.mean(), scores.std(), label))

III. 另外一种方法是对训练基中的特征维度进行操作的，这次不是给每一个基分类器全部的特征，而是给不同的基分类器分不同的特征，即比如基分类器1训练前半部分特征，基分类器2训练后半部分特征（可以通过sklearn 的pipelines 实现）。最终通过StackingClassifier组合起来。

from sklearn.datasets import load\_iris  
from mlxtend.classifier import StackingClassifier  
from mlxtend.feature\_selection import ColumnSelector  
from sklearn.pipeline import make\_pipeline  
from sklearn.linear\_model import LogisticRegression  
   
iris = load\_iris()  
X = iris.data  
y = iris.target  
   
pipe1 = make\_pipeline(ColumnSelector(cols=(0, 2)),  
                      LogisticRegression())  
pipe2 = make\_pipeline(ColumnSelector(cols=(1, 2, 3)),  
                      LogisticRegression())  
   
sclf = StackingClassifier(classifiers=\[pipe1, pipe2\],   
                          meta\_classifier=LogisticRegression())  
   
sclf.fit(X, y)

StackingClassifier 使用API及参数解析：

StackingClassifier(classifiers, meta\_classifier, use\_probas=False, average\_probas=False, verbose=0, use\_features\_in\_secondary=False)

参数：

classifiers : 基分类器，数组形式，\[cl1, cl2, cl3\]. 每个基分类器的属性被存储在类属性 self.clfs\_.  
meta\_classifier : 目标分类器，即将前面分类器合起来的分类器  
use\_probas : bool (default: False) ，如果设置为True， 那么目标分类器的输入就是前面分类输出的类别概率值而不是类别标签  
average\_probas : bool (default: False)，用来设置上一个参数当使用概率值输出的时候是否使用平均值。  
verbose : int, optional (default=0)。用来控制使用过程中的日志输出，当 verbose = 0时，什么也不输出， verbose = 1，输出回归器的序号和名字。verbose = 2，输出详细的参数信息。verbose > 2, 自动将verbose设置为小于2的，verbose -2.  
use\_features\_in\_secondary : bool (default: False). 如果设置为True，那么最终的目标分类器就被基分类器产生的数据和最初的数据集同时训练。如果设置为False，最终的分类器只会使用基分类器产生的数据训练。

属性：  
clfs\_ : 每个基分类器的属性，list, shape 为 \[n\_classifiers\]。  
meta\_clf\_ : 最终目标分类器的属性

方法：

fit(X, y)  
fit\_transform(X, y=None, fit\_params)  
get\_params(deep=True)，如果是使用sklearn的GridSearch方法，那么返回分类器的各项参数。  
predict(X)  
predict\_proba(X)  
score(X, y, sample\_weight=None)， 对于给定数据集和给定label，返回评价accuracy  
set\_params(params)，设置分类器的参数，params的设置方法和sklearn的格式一样

\------------------------------------------EOF---------------------------------

参考文献：

https://zhihu.com/question/29036379/answer/111637662

https://rasbt.github.io/mlxtend/user\_guide/classifier/StackingClassifier/

https://zh.wikipedia.org/zh-hans/Bagging%E7%AE%97%E6%B3%95

Wolpert, David H. "Stacked generalization." Neural networks 5.2 (1992): 241-259.

之前一直对stacking一知半解，找到的资料也介绍的很模糊。。所以有多看了几篇文章，然后来此写篇博客，加深一下印象，顺便给各位朋友分享一下。

stacking的过程有一张图非常经典，如下：

虽然他很直观，但是没有语言描述确实很难搞懂。

上半部分是用一个基础模型进行5折交叉验证，如：用XGBoost作为基础模型Model1，5折交叉验证就是先拿出四折作为training data，另外一折作为testing data。注意：在stacking中此部分数据会用到整个traing set。如：假设我们整个training set包含10000行数据，testing set包含2500行数据，那么每一次交叉验证其实就是对training set进行划分，在每一次的交叉验证中training data将会是8000行，testing data是2000行。

每一次的交叉验证包含两个过程，1. 基于training data训练模型；2. 基于training data训练生成的模型对testing data进行预测。在整个第一次的交叉验证完成之后我们将会得到关于当前testing data的预测值，这将会是一个一维2000行的数据，记为a1。注意！在这部分操作完成后，我们还要对数据集原来的整个testing set进行预测，这个过程会生成2500个预测值，这部分预测值将会作为下一层模型testing data的一部分，记为b1。因为我们进行的是5折交叉验证，所以以上提及的过程将会进行五次，最终会生成针对testing set数据预测的5列2000行的数据a1,a2,a3,a4,a5，对testing set的预测会是5列2500行数据b1,b2,b3,b4,b5。

在完成对Model1的整个步骤之后，我们可以发现a1,a2,a3,a4,a5其实就是对原来整个training set的预测值，将他们拼凑起来，会形成一个10000行一列的矩阵，记为A1。而对于b1,b2,b3,b4,b5这部分数据，我们将各部分相加取平均值，得到一个2500行一列的矩阵，记为B1。

以上就是stacking中一个模型的完整流程，stacking中同一层通常包含多个模型，假设还有Model2: LR，Model3：RF，Model4: GBDT，Model5：SVM，对于这四个模型，我们可以重复以上的步骤，在整个流程结束之后，我们可以得到新的A2,A3,A4,A5,B2,B3,B4,B5矩阵。

在此之后，我们把A1,A2,A3,A4,A5并列合并得到一个10000行五列的矩阵作为training data，B1,B2,B3,B4,B5并列合并得到一个2500行五列的矩阵作为testing data。让下一层的模型，基于他们进一步训练。

以上即为stacking的完整步骤！

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3podWlxaXV1dXU_size_16_color_FFFFFF_t_70]: /images/20220411/95eae13e74ed4d0a9142f2619b3acf0d.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3podWlxaXV1dXU_size_16_color_FFFFFF_t_70 1]: /images/20220411/9c43ef6667be4073ae2223a39f15a902.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3podWlxaXV1dXU_size_16_color_FFFFFF_t_70 2]: /images/20220411/dde9209a9a414fb1bc8f6bdec0489387.png