机器学习之初识SVM

叁歲伎倆 2022-07-12 04:51 227阅读 0赞

本文转载自[知乎问题][Link 1]

--------------------

支持向量机(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。  
　　支持向量机方法是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度，Accuracy）和学习能力（即无错误地识别任意样本的能力）之间寻求最佳折衷，以期获得最好的推广能力（或称泛化能力）。  
　　以上是经常被有关SVM 的学术文献引用的介绍，有点八股，我来逐一分解并解释一下。  
　　Vapnik是统计机器学习的大牛，这想必都不用说，他出版的《Statistical Learning Theory》是一本完整阐述统计机器学习思想的名著。在该书中详细的论证了统计机器学习之所以区别于传统机器学习的本质，就在于统计机器学习能够精确的给出学习效果，能够解答需要的样本数等等一系列问题。与统计机器学习的精密思维相比，传统的机器学习基本上属于摸着石头过河，用传统的机器学习方法构造分类系统完全成了一种技巧，一个人做的结果可能很好，另一个人差不多的方法做出来却很差，缺乏指导和原则。  
　　所谓VC维是对函数类的一种度量，可以简单的理解为问题的复杂程度，VC维越高，一个问题就越复杂。正是因为SVM关注的是VC维，后面我们可以看到，SVM解决问题的时候，和样本的维数是无关的（甚至样本是上万维的都可以，这使得SVM很适合用来解决文本分类的问题，当然，有这样的能力也因为引入了核函数）。  
　　结构风险最小听上去文绉绉，其实说的也无非是下面这回事。  
　　机器学习本质上就是一种对问题真实模型的逼近（我们选择一个我们认为比较好的近似模型，这个近似模型就叫做一个假设），但毫无疑问，真实模型一定是不知道的（如果知道了，我们干吗还要机器学习？直接用真实模型解决问题不就可以了？对吧，哈哈）既然真实模型不知道，那么我们选择的假设与问题真实解之间究竟有多大差距，我们就没法得知。比如说我们认为宇宙诞生于150亿年前的一场大爆炸，这个假设能够描述很多我们观察到的现象，但它与真实的宇宙模型之间还相差多少？谁也说不清，因为我们压根就不知道真实的宇宙模型到底是什么。  
　　这个与问题真实解之间的误差，就叫做风险（更严格的说，误差的累积叫做风险）。我们选择了一个假设之后（更直观点说，我们得到了一个分类器以后），真实误差无从得知，但我们可以用某些可以掌握的量来逼近它。最直观的想法就是使用分类器在样本数据上的分类的结果与真实结果（因为样本是已经标注过的数据，是准确的数据）之间的差值来表示。这个差值叫做经验风险Remp(w)。以前的机器学习方法都把经验风险最小化作为努力的目标，但后来发现很多分类函数能够在样本集上轻易达到100%的正确率，在真实分类时却一塌糊涂（即所谓的推广能力差，或泛化能力差）。此时的情况便是选择了一个足够复杂的分类函数（它的VC维很高），能够精确的记住每一个样本，但对样本之外的数据一律分类错误。回头看看经验风险最小化原则我们就会发现，此原则适用的大前提是经验风险要确实能够逼近真实风险才行（行话叫一致），但实际上能逼近么？答案是不能，因为样本数相对于现实世界要分类的文本数来说简直九牛一毛，经验风险最小化原则只在这占很小比例的样本上做到没有误差，当然不能保证在更大比例的真实文本上也没有误差。  
　　统计学习因此而引入了泛化误差界的概念，就是指真实风险应该由两部分内容刻画，一是经验风险，代表了分类器在给定样本上的误差；二是置信风险，代表了我们在多大程度上可以信任分类器在未知文本上分类的结果。很显然，第二部分是没有办法精确计算的，因此只能给出一个估计的区间，也使得整个误差只能计算上界，而无法计算准确的值（所以叫做泛化误差界，而不叫泛化误差）。  
　　置信风险与两个量有关，一是样本数量，显然给定的样本数量越大，我们的学习结果越有可能正确，此时置信风险越小；二是分类函数的VC维，显然VC维越大，推广能力越差，置信风险会变大。  
　　泛化误差界的公式为：  
　　R(w)≤Remp(w)\+Ф(n/h)  
　　公式中R(w)就是真实风险，Remp(w)就是经验风险，Ф(n/h)就是置信风险。统计学习的目标从经验风险最小化变为了寻求经验风险与置信风险的和最小，即结构风险最小。  
　　SVM正是这样一种努力最小化结构风险的算法。SVM其他的特点就比较容易理解了。  
　　小样本，并不是说样本的绝对数量少（实际上，对任何算法来说，更多的样本几乎总是能带来更好的效果），而是说与问题的复杂度比起来，SVM算法要求的样本数是相对比较少的。  
　　非线性，是指SVM擅长应付样本数据线性不可分的情况，主要通过松弛变量（也有人叫惩罚变量）和核函数技术来实现，这一部分是SVM的精髓，以后会详细讨论。多说一句，关于文本分类这个问题究竟是不是线性可分的，尚没有定论，因此不能简单的认为它是线性可分的而作简化处理，在水落石出之前，只好先当它是线性不可分的（反正线性可分也不过是线性不可分的一种特例而已，我们向来不怕方法过于通用）。  
　　高维模式识别是指样本维数很高，例如文本的向量表示，如果没有经过另一系列文章（《文本分类入门》）中提到过的降维处理，出现几万维的情况很正常，其他算法基本就没有能力应付了，SVM却可以，主要是因为SVM 产生的分类器很简洁，用到的样本信息很少（仅仅用到那些称之为“支持向量”的样本，此为后话），使得即使样本维数很高，也不会给存储和计算带来大麻烦（相对照而言，kNN算法在分类时就要用到所有样本，样本数巨大，每个样本维数再一高，这日子就没法过了……）。

--------------------

通过下面的例子，你也许更能理解SVM方法。

故事是这样子的：

在很久以前的情人节，大侠要去救他的爱人，但魔鬼和他玩了一个游戏。

魔鬼在桌子上似乎有规律放了两种颜色的球，说：“你用一根棍分开它们？要求：尽量在放更多球之后，仍然适用。”

![这里写图片描述][SouthEast]

于是大侠这样放，干的不错？

![这里写图片描述][SouthEast 1]

然后魔鬼，又在桌上放了更多的球，似乎有一个球站错了阵营。

![这里写图片描述][SouthEast 2]

SVM就是试图把棍放在最佳位置，好让在棍的两边有尽可能大的间隙。

![这里写图片描述][SouthEast 3]

现在即使魔鬼放了更多的球，棍仍然是一个好的分界线。

![这里写图片描述][SouthEast 4]

然后，在SVM 工具箱中有另一个更加重要的 trick。 魔鬼看到大侠已经学会了一个trick，于是魔鬼给了大侠一个新的挑战。

![这里写图片描述][SouthEast 5]

现在，大侠没有棍可以很好帮他分开两种球了，现在怎么办呢？当然像所有武侠片中一样大侠桌子一拍，球飞到空中。然后，凭借大侠的轻功，大侠抓起一张纸，插到了两种球的中间。

![这里写图片描述][SouthEast 6]

现在，从魔鬼的角度看这些球，这些球看起来像是被一条曲线分开了。

![这里写图片描述][SouthEast 7]

再之后，无聊的大人们，把这些球叫做 「data」，把棍子叫做 「classifier」, 最大间隙trick叫做「optimization」， 拍桌子叫做「kernelling」, 那张纸叫做「hyperplane」。

下面是一个视频截图：

[视频链接地址][Link 2]

![这里写图片描述][SouthEast 8]

![这里写图片描述][SouthEast 9]

![这里写图片描述][SouthEast 10]

![这里写图片描述][SouthEast 11]

![这里写图片描述][SouthEast 12]

![这里写图片描述][SouthEast 13]

![这里写图片描述][SouthEast 14]

![这里写图片描述][SouthEast 15]

![这里写图片描述][SouthEast 16]

![这里写图片描述][SouthEast 17]

![这里写图片描述][SouthEast 18]

![这里写图片描述][SouthEast 19]

[Link 1]: https://link.zhihu.com/?target=https://www.reddit.com/r/MachineLearning/comments/15zrpp/please_explain_support_vector_machines_svm_like_i
[SouthEast]: /images/20220711/c5c1acc676ce47c4aea6b825b942f617.png
[SouthEast 1]: /images/20220711/68835044c9a5429e87e329e2e65fecca.png
[SouthEast 2]: /images/20220711/b727e82f678f4e3495bc1ffc929b1e80.png
[SouthEast 3]: /images/20220711/da8d5ab63b5c43e49b3d4e63f3dde9fb.png
[SouthEast 4]: /images/20220711/c33ca091f7b64482b37d36224eb04a25.png
[SouthEast 5]: /images/20220711/d1f84b9109ba4966abc5ce03a376bb10.png
[SouthEast 6]: /images/20220711/0e8a1d8075c74621a498c54cce9f4da3.png
[SouthEast 7]: /images/20220711/394c3b6a0c464a86b4ed016a6d1d4488.png
[Link 2]: https://www.youtube.com/watch?v=3liCbRZPrZA
[SouthEast 8]: /images/20220711/7a0ac2e3175f40bbae6e1b339765bde5.png
[SouthEast 9]: /images/20220711/86c6e3adbb9241bdb2d13a5797b13109.png
[SouthEast 10]: /images/20220711/88a13519133345899c6ca905a3fcb93d.png
[SouthEast 11]: /images/20220711/e6db97b3ff3d4ac5a20678f039732063.png
[SouthEast 12]: /images/20220711/4cdead6c6cb7438283b179deb1b565e9.png
[SouthEast 13]: /images/20220711/d9b41ee924b84fb78cbab4456dc621ca.png
[SouthEast 14]: /images/20220711/ec1ffa21c0ea4ba2919e21f2f2050fc5.png
[SouthEast 15]: /images/20220711/fcc8b0c9c83346b2a329884b19168dbe.png
[SouthEast 16]: /images/20220711/0bf2f6e0db0d47ba9b780e41791d86b9.png
[SouthEast 17]: /images/20220711/a68437dcc26843f2b194e72dde58abe3.png
[SouthEast 18]: /images/20220711/78b969748220413a865a438c411ab8ae.png
[SouthEast 19]: /images/20220711/f2662c2e1d254926a9539d046556972e.png