【机器学习】常用算法优缺点及选用指南整理

妖狐艹你老母 2022-05-30 00:26 264阅读 0赞

### 1.[朴素贝叶斯算法][Link 1] ###

朴素贝叶斯属于生成式模型（关于生成模型和判别式模型，主要还是在于是否是要求联合分布），非常简单，你只是做了一堆计数。如果注有条件独立性假设（一个比较严格的条件），朴素贝叶斯分类器的收敛速度将快于判别模型，如[逻辑回归][Link 2]，所以你只需要较少的训练数据即可。即使NB条件独立假设不成立，NB分类器在实践中仍然表现的很出色。它的主要缺点是它不能学习特征间的相互作用，用mRMR中R来讲，就是特征冗余。引用一个比较经典的例子，比如，虽然你喜欢Brad Pitt和Tom Cruise的电影，但是它不能学习出你不喜欢他们在一起演的电影。

**优点**：

*  朴素贝叶斯模型发源于古典数学理论，有着坚实的数学基础，以及稳定的分类效率。
 *  对小规模的数据表现很好，能个处理多分类任务，适合增量式训练；
 *  对缺失数据不太敏感，算法也比较简单，常用于文本分类。

**缺点**：

*  需要计算先验概率；
 *  分类决策存在错误率；
 *  对输入数据的表达形式很敏感。

--------------------

### 2.[Logistic Regression（逻辑回归）][Logistic Regression] ###

属于判别式模型，有很多正则化模型的方法（L0， L1，L2，etc），而且你不必像在用朴素贝叶斯那样担心你的特征是否相关。与[决策树][Link 3]与SVM机相比，你还会得到一个不错的概率解释，你甚至可以轻松地利用新数据来更新模型（使用在线梯度下降算法，online gradient descent）。如果你需要一个概率架构（比如，简单地调节分类阈值，指明不确定性，或者是要获得置信区间），或者你希望以后将更多的训练数据快速整合到模型中去，那么使用它吧。

**Sigmoid函数**

**![20180228162154242][]**

**优点：**

*  实现简单，广泛的应用于工业问题上；
 *  分类时计算量非常小，速度很快，存储资源低；
 *  便利的观测样本概率分数；
 *  对逻辑回归而言，多重共线性并不是问题，它可以结合L2正则化来解决该问题；

**缺点**：

*  当特征空间很大时，逻辑回归的性能不是很好；
 *  容易**欠拟合**，一般准确度不太高
 *  不能很好地处理大量多类特征或变量；
 *  只能处理两分类问题（在此基础上衍生出来的softmax可以用于多分类），且必须**线性可分**；
 *  对于非线性特征，需要进行转换；

--------------------

### 3.[线性回归][Link 4] ###

线性回归是用于回归的，而不像Logistic回归是用于分类，其基本思想是用**梯度下降法**对最小二乘法形式的误差函数进行优化，当然也可以用normal equation直接求得参数的解，结果为：

而在LWLR（局部加权线性回归）中，参数的计算表达式为:

由此可见LWLR与LR不同，LWLR是一个非参数模型，因为每次进行回归计算都要遍历训练样本至少一次。

**优点**： 实现简单，计算简单；  
**缺点**： 不能拟合非线性数据.

--------------------

### 4.[最近领算法——KNN][KNN] ###

KNN即最近邻算法，其主要过程为：

1. 计算训练样本和测试样本中每个样本点的距离（常见的距离度量有欧式距离，马氏距离等）；
    2. 对上面所有的距离值进行排序；
    3. 选前k个最小距离的样本；
    4. 根据这k个样本的标签进行投票，得到最后的分类类别；

![70][]

如何选择一个最佳的K值，这取决于数据。一般情况下，在分类时较大的K值能够减小噪声的影响。但会使类别之间的界限变得模糊。一个较好的K值可通过各种启发式技术来获取，比如，交叉验证。另外噪声和非相关性特征向量的存在会使K近邻算法的准确性减小。

近邻算法具有较强的一致性结果。随着数据趋于无限，算法保证错误率不会超过贝叶斯算法错误率的两倍。对于一些好的K值，K近邻保证错误率不会超过贝叶斯理论误差率。

**优点**

*  理论成熟，思想简单，既可以用来做分类也可以用来做回归；
 *  可用于非线性分类；
 *  训练时间复杂度为O(n)；
 *  对数据没有假设，准确度高，对outlier不敏感；

**缺点**

*  计算量大；
 *  样本不平衡问题（即有些类别的样本数量很多，而其它样本的数量很少）；
 *  需要大量的内存；

--------------------

### 5.[决策树][Link 5] ###

易于解释。它可以毫无压力地处理特征间的交互关系并且是非参数化的，因此你不必担心异常值或者数据是否线性可分（举个例子，决策树能轻松处理好类别A在某个特征维度x的末端，类别B在中间，然后类别A又出现在特征维度x前端的情况）。它的缺点之一就是不支持在线学习，于是在新样本到来后，决策树需要全部重建。另一个缺点就是容易出现过拟合，但这也就是诸如随机森林RF（或提升树boosted tree）之类的集成方法的切入点。另外，随机森林经常是很多分类问题的赢家（通常比支持向量机好上那么一丁点），它训练快速并且可调，同时你无须担心要像支持向量机那样调一大堆参数，所以在以前都一直很受欢迎。

决策树中很重要的一点就是选择一个属性进行分枝，因此要注意一下信息增益的计算公式，并深入理解它。

信息熵的计算公式如下:

![201802281619425][]

其中的n代表有n个分类类别（比如假设是2类问题，那么n=2）。分别计算这2类样本在总样本中出现的概率p1和p2，这样就可以计算出未选中属性分枝前的信息熵。

现在选中一个属性xixi用来进行分枝，此时分枝规则是：如果xi=vxi=v的话，将样本分到树的一个分支；如果不相等则进入另一个分支。很显然，分支中的样本很有可能包括2个类别，分别计算这2个分支的熵H1和H2,计算出分枝后的总信息熵H’ =p1 H1+p2H2,则此时的信息增益ΔH = H – H’。以信息增益为原则，把所有的属性都测试一边，选择一个使增益最大的属性作为本次分枝属性。

**优点**

*  计算简单，易于理解，可解释性强；
 *  比较适合处理有缺失属性的样本；
 *  能够处理不相关的特征；
 *  在相对短的时间内能够对大型数据源做出可行且效果良好的结果。

**缺点**

*  容易发生过拟合（随机森林可以很大程度上减少过拟合）；
 *  忽略了数据之间的相关性；
 *  对于那些各类别样本数量不一致的数据，在决策树当中,信息增益的结果偏向于那些具有更多数值的特征（只要是使用了信息增益，都有这个缺点，如RF）。

### 6  [Adaboosting][] ###

Adaboost是一种加和模型，每个模型都是基于上一次模型的错误率来建立的，过分关注分错的样本，而对正确分类的样本减少关注度，逐次迭代之后，可以得到一个相对较好的模型。是一种典型的boosting算法。下面是总结下它的优缺点。

**优点**

*  adaboost是一种有很高精度的分类器。
 *  可以使用各种方法构建子分类器，Adaboost算法提供的是框架。
 *  当使用简单分类器时，计算出的结果是可以理解的，并且弱分类器的构造极其简单。
 *  简单，不用做特征筛选。
 *  不容易发生overfitting。

关于随机森林和GBDT等组合算法，参考这篇文章：[机器学习-组合算法总结][-]

**缺点：**对outlier比较敏感

--------------------

### 7.[SVM支持向量机][SVM] ###

高准确率，为避免过拟合提供了很好的理论保证，而且就算数据在原特征空间线性不可分，只要给个合适的核函数，它就能运行得很好。在动辄超高维的文本分类问题中特别受欢迎。可惜内存消耗大，难以解释，运行和调参也有些烦人，而随机森林却刚好避开了这些缺点，比较实用。

**优点**

*  可以解决高维问题，即大型特征空间；
 *  能够处理非线性特征的相互作用；
 *  无需依赖整个数据；
 *  可以提高泛化能力；

**缺点**

*  当观测样本很多时，效率并不是很高；
 *  对非线性问题没有通用解决方案，有时候很难找到一个合适的核函数；
 *  对缺失数据敏感；

对于核的选择也是有技巧的（lib[svm][]中自带了四种核函数：线性核、多项式核、RBF以及sigmoid核）：

*  第一，如果样本数量小于特征数，那么就没必要选择非线性核，简单的使用线性核就可以了；
 *  第二，如果样本数量大于特征数目，这时可以使用非线性核，将样本映射到更高维度，一般可以得到更好的结果；
 *  第三，如果样本数目和特征数目相等，该情况可以使用非线性核，原理和第二种一样。

对于第一种情况，也可以先对数据进行降维，然后使用非线性核，这也是一种方法。

--------------------

### 8. [神经网络][Link 6] ###

**神经网络的优点：**

*  分类的准确度高；
 *  并行分布处理能力强,分布存储及学习能力强，
 *  对噪声神经有较强的鲁棒性和容错能力，能充分逼近复杂的非线性关系；
 *  具备联想记忆的功能。

**神经网络的缺点：**

*  神经网络需要大量的参数，如网络拓扑结构、权值和阈值的初始值；
 *  不能观察之间的学习过程，输出结果难以解释，会影响到结果的可信度和可接受程度；
 *  学习时间过长,甚至可能达不到学习的目的。

--------------------

### 9。[K-Means聚类][K-Means] ###

之前写过一篇关于K-Means聚类的文章，博文链接：[机器学习算法-K-means聚类][-K-means]。关于K-Means的推导，里面有着很强大的EM思想。

**优点**

*  算法简单，容易实现 ；
 *  对处理[大数据][Link 7]集，该算法是相对可伸缩的和高效率的，因为它的复杂度大约是O(nkt)，其中n是所有对象的数目，k是簇的数目,t是迭代的次数。通常k<<n。这个算法通常局部收敛。
 *  算法尝试找出使平方误差函数值最小的k个划分。当簇是密集的、球状或团状的，且簇与簇之间区别明显时，聚类效果较好。

**缺点**

*  对数据类型要求较高，适合数值型数据；
 *  可能收敛到局部最小值，在大规模数据上收敛较慢
 *  K值比较难以选取；
 *  对初值的簇心值敏感，对于不同的初始值，可能会导致不同的聚类结果；
 *  不适合于发现非凸面形状的簇，或者大小差别很大的簇。
 *  对于”噪声”和孤立点数据敏感，少量的该类数据能够对平均值产生极大影响。

## 算法选择参考 ##

之前翻译过一些国外的文章，有一篇文章中给出了一个简单的算法选择技巧：

1.  首当其冲应该选择的就是逻辑回归，如果它的效果不怎么样，那么可以将它的结果作为基准来参考，在基础上与其他算法进行比较；
2.  然后试试决策树（随机森林）看看是否可以大幅度提升你的模型性能。即便最后你并没有把它当做为最终模型，你也可以使用随机森林来移除噪声变量，做特征选择；
3.  如果特征的数量和观测样本特别多，那么当资源和时间充足时（这个前提很重要），使用SVM不失为一种选择。

通常情况下：【GBDT>=SVM>=RF>=Adaboost>=Other…】，现在深度学习很热门，很多领域都用到，它是以神经网络为基础的，目前我自己也在学习，只是理论知识不是很厚实，理解的不够深，这里就不做介绍了。

算法固然重要，**但好的数据却要优于好的算法**，设计优良特征是大有裨益的。假如你有一个超大数据集，那么无论你使用哪种算法可能对分类性能都没太大影响（此时就可以根据速度和易用性来进行抉择）。

————————————————————

## 机器学习算法选用指南 ##

四种机器学习任务：

*  监督学习
 *  无监督学习
 *  半监督学习
 *  强化学习

### 监督学习 ###

监督学习是从标记的训练数据中推断出某个功能。通过拟合标注的训练集，找到最优的模型参数来预测其他对象（测试集）上的未知标签。如果标签是一个实数，我们称之为回归。如果标签来自有限数量的值，这些值是无序的，那么称之为分类。

![1.png][]

### 无监督学习 ###

在无监督学习中，我们对于物体知道的信息比较少，特别是训练集没有做过标记。那现在的目标是什么呢？观察对象之间的相似性，并将它们划分到不同的群组中。某些对象可能与其他群组中的对象都有很大的区别，那么我们就认为这些对象是异常的。

![2.png][]

### 半监督学习 ###

半监督学习包括了前面描述的两个问题：同时使用标记和未标记的数据。对于那些无法标注所有数据的人来说，这是一个很好的方法。该方法能够显著提高准确性，因为在使用训练集中未标记数据的同时，还能使用少量带有标记的数据。

![3.png][]

### 强化学习 ###

强化学习跟上面提到的方法不太一样，因为在这里并没有标记或未标记的数据集。强化学习涉及到软件代理应该如何在某些环境中采取行动来最大化累积奖励。

![4.png][]

想象一下，你是一个在陌生环境中的机器人，你可以执行一些动作，并从中获得奖励。在每执行一个动作之后，你的行为会变得越来越复杂越来越聪明，也就是说 ，你正在训练自己在执行每一个动作之后让自己表现得更为有效。在生物学中，这被称为适应自然环境。

## 常用的机器学习算法 ##

现在，我们对机器学习的类型有了一定的了解，下面，我们来看一下最流行的算法及其在现实生活中的应用。

### 线性回归和线性分类器 ###

这些可能是机器学习中最简单的算法了。假设有对象（矩阵A）的特征x1，... xn和标签（向量B）。我们的目标是根据某些损失函数（例如[MSE][]或[MAE][]）找到最优权重w1，... wn和这些特征的偏差。 在使用MSE的情况下，有一个来自最小二乘法的数学公式：

![5.jpeg][]

在实践中，使用梯度下降来进行优化则更为容易，计算上更有效率。尽管这个算法很简单，但是在存在成千上万个特征的时候，这个方法依然能够表现良好。更复杂的算法可能会遇到过拟合特征或者是没有足够大的数据集的问题，而线性回归则是一个不错的选择。

![6.jpg][]

为了防止过拟合，可使用像lasso和ridge这样的规则化技术。其主要思路是分别把权重总和以及权重平方的总和加到损失函数中。

### 逻辑回归 ###

逻辑回归执行的是二元分类，所以输出的标签是二元的。给定输入特征向量x，定义P(y=1|x)为输出y等于1时的条件概率。系数w是模型要学习的权重。

![7.png][]

由于该算法需要计算每个类别的归属概率，因此应该考虑概率与0或1的差异程度，并像在线性回归中一样对所有对象取平均值。这种损失函数是交叉熵的平均值：

![8.png][]

逻辑回归有什么好处呢？它采用了线性组合的特征，并对其应用非线性函数（sigmoid），所以它是一个非常小的神经网络实例！

### 决策树 ###

另一个比较流行、并且容易理解的算法是决策树。它的图形能让你看到你自己的想法，它的引擎有一个系统的、有记录的思考过程。

这个算法很简单。在每个节点中，我们选择所有特征和所有可能的分割点之间的最佳分割。选择每个分割以最大化某些功能。在分类树中使用交叉熵和基尼指数。在回归树中，最小化该区域中的点的目标值的预测变量与分配给它的点之间的平方误差的总和。

![9.png][]

算法会在每个节点上递归地完成这个过程，直到满足停止条件为止。

### K-means ###

有的时候你并不知道标签，而目标是根据对象的特征来分配标签。这被称为集聚化任务。

假设要把所有的数据对象分成k个簇，则需要从数据中随机选择k个点，并将它们命名为簇的中心。其他对象的簇由最近的簇中心定义。然后，聚类的中心会被转换并重复该过程直到收敛。

![10.jpg][]

虽然这个技术非常不错，但它仍然有一些缺点。首先，我们并不知道簇的数量。其次，结果依赖开始时随机选择的那个点，算法无法保证我们能够实现功能的全局最小值。

### 主成分分析（PCA） ###

昨晚或者最近的几个小时里你有没有在准备考试？你无法记住所有的信息，但是想要在可用的时间内最大限度地记住信息，例如，首先学习考试中经常出现的定理等等。

主成分分析基于类似的思想。该算法提供了降维的功能。有时，你有很多的特征，并且彼此之间强相关，模型可以很容易地适应大量的数据。然后，你可以应用PCA。

你应该计算某些向量上的投影，以使数据的方差最大化，并尽可能少地丢失信息。而这些向量是来自数据集特征的相关矩阵的特征向量。

![11.png][]

算法的内容现在已经很清楚了：

1.  计算特征列的相关矩阵，找出该矩阵的特征向量。
2.  将这些多维向量计算出来，并计算所有特征的投影。

新特征是投影中的坐标，其数量取决于投影的特征向量的数量。

### 神经网络 ###

在上文讲到逻辑回归的时候，就已经提到了神经网络。在一些具体的任务中，有很多不同的体系结构都非常有价值。而神经网络更多的时候是一系列的层或组件，它们之间存在线性连接并遵循非线性。

如果你正在处理图像，那么卷积深度神经网络能展现出不错的结果。而非线性则通过卷积层和汇聚层表现出来，它能够捕捉图像的特征。

![12.jpg][]

要处理文本和序列，最好选择递归神经网络。 RNN包含了LSTM或GRU模块，并且能够数据一同使用。也许，最有名的RNN应用是[机器翻译][Link 8]吧。

## 结论 ##

我希望能向大家解释最常用的机器学习算法，并就针对具体问题如何选择机器学习算法提供建议。为了能让你更轻松的掌握这些内容，我准备了下面这个总结。

线性回归和线性分类器。尽管看起来简单，但当其他算法在大量特征上遇到过拟合的问题时，它的优势就表现出来了。

Logistic回归是最简单的非线性分类器，具有二元分类的参数和非线性函数（S形）的线性组合。

决策树通常与人类的决策过程相似，并且易于解释。但它们最常用于随机森林或梯度增强这样的组合中。

K-means是一个更原始、但又非常容易理解的算法。

PCA是降低信息损失最少的特征空间维度的绝佳选择。

神经网络是机器学习算法的新武器，可以应用于许多任务，但其训练的计算复杂度相当大。

文章原标题《Machine Learning Algorithms: Which One to Choose for Your Problem》，作者： Daniil Korbut，译者：夏天，审校：主题曲。

详细的内容请查看[:https://yq.aliyun.com/articles/255022?utm\_content=m\_42635][https_yq.aliyun.com_articles_255022_utm_content_m_42635]。

[Link 1]: https://blog.csdn.net/SecondLieutenant/article/details/79071052
[Link 2]: http://www.afenxi.com/topic/logistic
[Logistic Regression]: https://blog.csdn.net/SecondLieutenant/article/details/79113108
[Link 3]: http://www.afenxi.com/topic/jueceshu
[20180228162154242]: /images/20220530/c38879e02b084f57b21091b40d76d198.png
[Link 4]: https://blog.csdn.net/SecondLieutenant/article/details/79113865
[KNN]: https://blog.csdn.net/SecondLieutenant/article/details/79926421
[70]: /images/20220530/92f69098f64a4578b9a8c82d7996afe9.png
[Link 5]: https://blog.csdn.net/SecondLieutenant/article/details/78810913
[201802281619425]: /images/20220530/eb253fc4a3454e309c70ffc7aa3910cd.png
[Adaboosting]: https://blog.csdn.net/SecondLieutenant/article/details/81739431
[-]: http://www.csuldw.com/2015/07/22/2015-07-22%20%20ensemble/
[SVM]: https://blog.csdn.net/SecondLieutenant/article/details/78870530
[svm]: http://www.afenxi.com/topic/svm
[Link 6]: https://blog.csdn.net/SecondLieutenant/article/details/79622711
[K-Means]: https://blog.csdn.net/SecondLieutenant/article/details/79135809
[-K-means]: http://www.csuldw.com/2015/06/03/2015-06-03-ml-algorithm-K-means/
[Link 7]: http://www.afenxi.com/topic/bigdata
[1.png]: /images/20220530/a9788ec57a834c48966ea36feff02a93.png
[2.png]: /images/20220530/9674d8841f6941419dbb0cd793fbf486.png
[3.png]: /images/20220530/ee46baa0c84144c49de3903dcda90c36.png
[4.png]: /images/20220530/daa3df789243460d94be72209db8e32c.png
[MSE]: https://en.wikipedia.org/wiki/Mean_squared_error
[MAE]: https://en.wikipedia.org/wiki/Mean_absolute_error
[5.jpeg]: /images/20220530/36774facfc434d49a84e11fce59eea1b.png
[6.jpg]: /images/20220530/28a695e502bc42109903139540b06813.png
[7.png]: /images/20220530/72c8913f892b4a24a3c28f80f0e12a6f.png
[8.png]: /images/20220530/55bb741c3c734465aba2bdcb30ad9deb.png
[9.png]: /images/20220530/16fff32498ed4baebbbb9659ce4b5ab4.png
[10.jpg]: /images/20220530/75922077b6664d8082d68338bd076fbb.png
[11.png]: /images/20220530/f22410760cfd43238121fac09a37daea.png
[12.jpg]: /images/20220530/e581a4ab13cd46f99c280f53ce7dbefe.png
[Link 8]: https://blog.statsbot.co/machine-learning-translation-96f0ed8f19e4
[https_yq.aliyun.com_articles_255022_utm_content_m_42635]: https://blog.statsbot.co/machine-learning-algorithms-183cc73197c