简单介绍支持向量机（SVM）与核函数

逃离我推掉我的手 2021-09-22 05:54 371阅读 0赞

**简单介绍支持向量机（SVM）**

要明白什么是SVM，便得从分类说起。

分类作为数据挖掘领域中一项非常重要的任务，它的目的是学会一个分类函数或分类模型(或者叫做分类器)，而支持向量机本身便是一种监督式学习的方法(至于具体什么是监督学习与非监督学习，请参见此系列[Machine L&Data Mining][Machine L_Data Mining]第一篇)，它广泛的应用于统计分类以及回归分析中。

支持向量机（SVM）是90年代中期发展起来的基于统计学习理论的一种[机器学习][Link 1]方法，通过寻求结构化风险最小来提高学习机泛化能力，实现经验风险和置信范围的最小化，从而达到在统计样本量较少的情况下，亦能获得良好统计规律的目的。

通俗来讲，它是一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器，即支持向量机的学习策略便是间隔最大化，最终可转化为一个凸二次规划问题的求解。

对于不想深究SVM原理的同学或比如就只想看看SVM是干嘛的，那么，了解到这里便足够了，不需上层。而对于那些喜欢深入研究一个东西的同学，甚至究其本质的，咱们则还有很长的一段路要走，万里长征，咱们开始迈第一步吧，相信你能走完。

### 到底什么是Support Vector ###

![1338603535_6368.png][]

可以看到两个支撑着中间的 gap 的超平面，它们到中间的纯红线separating hyper plane 的距离相等，即我们所能得到的最大的 geometrical margin ![20131111154137453][] ，而“支撑”这两个超平面的必定会有一些点，而这些“支撑”的点便叫做支持向量Support Vector。

### 核函数Kernel ###

###        核函数则提供了此种问题的解决途径，从下文你将看到，核函数通过把数据映射到高维空间来增加第一节所述的线性学习器的能力，使得线性学习器对偶空间的表达方式让分类操作更具灵活性和可操作性。因为训练样例一般是不会独立出现的，它们总是以成对样例的内积形式出现，而用对偶形式表示学习器的优势在为在该表示中可调参数的个数不依赖输入属性的个数，通过使用恰当的核函数来替代内积，可以隐式得将非线性的训练数据映射到高维空间，而不增加可调参数的个数(当然，前提是核函数能够计算对应着两个输入特征向量的内积)。 ###

###       简而言之：在线性不可分的情况下，支持向量机通过某种事先选择的非线性映射(核函数)将输入变量映射到一个高维特征空间，在这个空间中构造最优分类超平面。我们使用SVM进行数据集分类工作的过程首先是同预先选定的一些非线性映射将输入空间映射到高维特征空间(下图很清晰的表达了通过映射到高维特征空间，而把平面上本身不好分的非线性数据分了开来)： ###

### ![1338612063_1634.JPG][] ###

### 使得在高维属性空间中有可能最训练数据实现超平面的分割，避免了在原输入空间中进行非线性曲面分割计算。SVM数据集形成的分类函数具有这样的性质：它是一组以支持向量为参数的非线性函数的线性组合，因此分类函数的表达式仅和支持向量的数量有关，而独立于空间的维度，在处理高维输入空间的分类时，这种方法尤其有效，其工作原理如下图所示： ###

###    ![1338612418_9046.JPG][] ###

###  ###

#### \*\*\*核函数：如何处理非线性数据\*\*\* ####

举个例子来说，则是如下图所示的两类数据，分别分布为两个圆圈的形状，这样的数据本身就是线性不可分的，此时咱们该如何把这两类数据分开呢( 下文将会有一个相应的三维空间图 )？

![1338655829_6929.png][]

事实上，上图所述的这个数据集，是用两个半径不同的圆圈加上了少量的噪音生成得到的，所以，一个理想的分界应该是一个“圆圈”而不是一条线（超平面）。如果用 *X*1 和 *X*2 来表示这个二维平面的两个坐标的话，我们知道一条二次曲线（圆圈是二次曲线的一种特殊情况）的方程可以写作这样的形式：

> > > ![20130820145508875][]

注意上面的形式，如果我们构造另外一个五维的空间，其中五个坐标的值分别为 *Z*1=*X*1, *Z*2=*X*21, *Z*3=*X*2, *Z*4=*X*22, *Z*5=*X*1*X*2，那么显然，上面的方程在新的坐标系下可以写作：

> > > > ![20130820145522437][]

关于新的坐标 *Z* ，这正是一个 hyper plane 的方程！也就是说，如果我们做一个映射 *ϕ*:R2→R5 ，将 *X* 按照上面的规则映射为 *Z* ，那么在新的空间中原来的数据将变成线性可分的，从而使用之前我们推导的线性分类算法就可以进行处理了。这正是 Kernel 方法处理非线性问题的基本思想。

再进一步描述 Kernel 的细节之前，不妨再来看看这个例子映射过后的直观例子。当然，你我可能无法把 5 维空间画出来，不过由于我这里生成数据的时候就是用了特殊的情形，具体来说，我这里的超平面实际的方程是这个样子（圆心在 *X*2 轴上的一个正圆）：

> > > > ![20130820145544562][]

因此我只需要把它映射到 *Z*1=*X*21, *Z*2=*X*22, *Z*3=*X*2 这样一个三维空间中即可。

###     ###

[Machine L_Data Mining]: http://blog.csdn.net/v_july_v/article/category/1061301
[Link 1]: http://lib.csdn.net/base/machinelearning
[1338603535_6368.png]: https://img-my.csdn.net/uploads/201206/02/1338603535_6368.png
[20131111154137453]: /images/20210920/462f1ed59c2f4706950e7fcb771629c1.png
[1338612063_1634.JPG]: https://img-my.csdn.net/uploads/201206/02/1338612063_1634.JPG
[1338612418_9046.JPG]: https://img-my.csdn.net/uploads/201206/02/1338612418_9046.JPG
[1338655829_6929.png]: https://img-my.csdn.net/uploads/201206/03/1338655829_6929.png
[20130820145508875]: /images/20210920/a94e5ab29c9a47509b8e514acd26be2d.png
[20130820145522437]: /images/20210920/70983a1c3ce34963ada9f9942678984c.png
[20130820145544562]: /images/20210920/782f2612d6da4c69b975033cca118f81.png