机器学习中的算法-支持向量机(SVM)基础

朱雀 2022-09-26 13:54 208阅读 0赞

**前言：**

又有很长的一段时间没有更新博客了，距离上次更新已经有两个月的时间了。其中一个很大的原因是，不知道写什么好-\_-，最近一段时间看了看关于SVM(Support Vector Machine)的文章，觉得SVM是一个非常有趣，而且自成一派的方向，所以今天准备写一篇关于关于SVM的文章。

关于SVM的论文、书籍都非常的多，引用强哥的话“SVM是让应用数学家真正得到应用的一种算法”。SVM对于大部分的普通人来说，要完全理解其中的数学是非常困难的，所以要让这些普通人理解，得要把里面的数学知识用简单的语言去讲解才行。而且想明白了这些数学，对学习其他的内容也是大有裨益的。我就是属于绝大多数的普通人，为了看明白SVM，看了不少的资料，这里把我的心得分享分享。

其实现在能够找到的，关于SVM的中文资料已经不少了，不过个人觉得，每个人的理解都不太一样，所以还是决定写一写，一些雷同的地方肯定是不可避免的，不过还是希望能够写出一点与别人不一样的地方吧。另外本文准备不谈太多的数学（因为很多文章都谈过了），尽量简单地给出结论，就像题目一样-机器学习中的**算法**（之前叫做机器学习中的数学），**所以本系列的内容将更偏重应用一些。如果想看更详细的数学解释，可以看看参考文献中的资料。**

**一、线性分类器：**

**首先给出一个非常非常简单的分类问题（线性可分）**，我们要用一条直线，将下图中黑色的点和白色的点分开，很显然，图上的这条直线就是我们要求的直线之一（可以有无数条这样的直线）

[![image][]][image 1]    假如说，我们令黑色的点 = -1， 白色的点 =  +1，直线f(x) = w.x + b，这儿的x、w是向量，其实写成这种形式也是等价的f(x) = w1x1 + w2x2 … + wnxn + b, 当向量x的维度=2的时候，f(x) 表示二维空间中的一条直线， 当x的维度=3的时候，f(x) 表示3维空间中的一个平面，当x的维度=n > 3的时候，表示n维空间中的n-1维超平面。这些都是比较基础的内容，如果不太清楚，可能需要复习一下微积分、线性代数的内容。

刚刚说了，我们令黑色白色两类的点分别为+1, -1，所以当有一个新的点x需要预测属于哪个分类的时候，我们用sgn(f(x))，就可以预测了，sgn表示符号函数，当f(x) > 0的时候，sgn(f(x)) = +1, 当f(x) < 0的时候sgn(f(x)) = –1。

但是，我们怎样才能取得一个最优的划分直线f(x)呢？下图的直线表示几条可能的f(x)

[![image][image 2]][image_image 2]

一个很直观的感受是，让这条直线到给定样本中最近的点最远，这句话读起来比较拗口，下面给出几个图，来说明一下：

第一种分法：

[![image][image 3]][image_image 3]

第二种分法：

[![image][image 4]][image_image 4]

这两种分法哪种更好呢？从直观上来说，就是分割的间隙越大越好，把两个类别的点分得越开越好。就像我们平时判断一个人是男还是女，就是很难出现分错的情况，这就是男、女两个类别之间的间隙非常的大导致的，让我们可以更准确的进行分类。**在SVM中，称为Maximum Marginal，是SVM的一个理论基础之一。**选择使得间隙最大的函数作为分割平面是由很多道理的，比如说从概率的角度上来说，就是使得置信度最小的点置信度最大（听起来很拗口），从实践的角度来说，这样的效果非常好，等等。这里就不展开讲，作为一个结论就ok了，:)

上图被红色和蓝色的线圈出来的点就是所谓的支持向量(support vector)。

[![image][image 5]][image_image 5]    上图就是一个对之前说的类别中的间隙的一个描述。Classifier Boundary就是f(x)，红色和蓝色的线（plus plane与minus plane）就是support vector所在的面，红色、蓝色线之间的间隙就是我们要最大化的分类间的间隙。[![image][image 6]][image_image 6]

这里直接给出M的式子：（从高中的解析几何就可以很容易的得到了，也可以参考后面Moore的ppt）

[![image][image 7]][image_image 7]

另外支持向量位于wx + b = 1与wx + b = -1的直线上，我们在前面乘上一个该点所属的类别y（还记得吗?y不是+1就是-1），就可以得到支持向量的表达式为：y(wx + b) = 1，这样就可以更简单的将支持向量表示出来了。

当支持向量确定下来的时候，分割函数就确定下来了，两个问题是等价的。得到支持向量，还有一个作用是，让支持向量后方那些点就不用参与计算了。这点在后面将会更详细的讲讲。

在这个小节的最后，给出我们要优化求解的表达式：

[![image][image 8]][image_image 8]

||w||的意思是w的二范数，跟上面的M表达式的分母是一个意思，之前得到，M = 2 / ||w||，最大化这个式子等价于最小化||w||, 另外由于||w||是一个单调函数，我们可以对其加入平方，和前面的系数，熟悉的同学应该很容易就看出来了，这个式子是为了方便求导。

这个式子有还有一些限制条件，完整的写下来，应该是这样的：（**原问题**）

[![image][image 9]][image_image 9]

s.t的意思是subject to，也就是在后面这个限制条件下的意思，这个词在svm的论文里面非常容易见到。这个其实是一个带约束的二次规划(quadratic programming, QP)问题，是一个凸问题，凸问题就是指的不会有局部最优解，可以想象一个漏斗，不管我们开始的时候将一个小球放在漏斗的什么位置，这个小球最终一定可以掉出漏斗，也就是得到全局最优解。s.t.后面的限制条件可以看做是一个凸多面体，我们要做的就是在这个凸多面体中找到最优解。这些问题这里不展开，因为展开的话，一本书也写不完。如果有疑问请看看wikipedia。

**二、转化为对偶问题，并优化求解:**

这个优化问题可以用[拉格朗日乘子法][Link 1]去解，使用了[KKT条件][KKT]的理论，这里直接作出这个式子的拉格朗日目标函数：

[![image][image 10]][image_image 10]

求解这个式子的过程需要[拉格朗日对偶性][Link 2]的相关知识（另外pluskid也有[一篇文章][Link 3]专门讲这个问题），并且有一定的公式推导，如果不感兴趣，**可以直接跳到后面**用**蓝色公式**表示的结论，该部分推导主要参考自[plukids的文章][plukids]。

首先让L关于w，b最小化，分别令L关于w，b的偏导数为0，得到关于**原问题**的一个表达式

[![image][image 11]][image_image 11]

将两式带回L(w,b,a)得到对偶问题的表达式

![image][image 12]

新问题加上其限制条件是（**对偶问题**）:

[![image][image 13]][image_image 13]

这个就是我们需要最终优化的式子。至此，**得到了线性可分问题的优化式子**。

求解这个式子，有很多的方法，比如[SMO][]等等，个人认为，求解这样的一个带约束的凸优化问题与得到这个凸优化问题是比较独立的两件事情，所以在这篇文章中准备完全不涉及如何求解这个话题，如果之后有时间可以补上一篇文章来谈谈:)。

**三、线性不可分的情况（软间隔）：**

接下来谈谈线性不可分的情况，因为**线性可分这种假设实在是太有局限性**了：

下图就是一个典型的线性不可分的分类图，我们没有办法用一条直线去将其分成两个区域，每个区域只包含一种颜色的点。

[![image][image 14]][image_image 14]     要想在这种情况下的分类器，有两种方式，**一种是用曲线**去将其完全分开，曲线就是一种**非线性**的情况，跟之后将谈到的**核函数**有一定的关系：

[![image][image 15]][image_image 15]     **另外一种还是用直线，不过不用去保证可分性**，就是包容那些分错的情况，不过我们得加入惩罚函数，使得点分错的情况越合理越好。其实在很多时候，不是在训练的时候分类函数越完美越好，因为训练函数中有些数据本来就是噪声，可能就是在人工加上分类标签的时候加错了，如果我们在训练（学习）的时候把这些错误的点学习到了，那么模型在下次碰到这些错误情况的时候就难免出错了（假如老师给你讲课的时候，某个知识点讲错了，你还信以为真了，那么在考试的时候就难免出错）。这种学习的时候学到了“噪声”的过程就是一个过拟合（over-fitting），这在机器学习中是一个大忌，我们宁愿少学一些内容，也坚决杜绝多学一些错误的知识。还是回到主题，用直线怎么去分割线性不可分的点：

我们可以为分错的点加上一点惩罚，对一个分错的点的**惩罚函数**就是**这个点到其正确位置的距离：**

[![image][image 16]][image_image 16]

在上图中，蓝色、红色的直线分别为支持向量所在的边界，绿色的线为决策函数，那些紫色的线**表示分错的点到其相应的决策面的距离**，这样我们可以在原函数上面加上一个惩罚函数，并且带上其限制条件为：

![image][image 17]

公式中蓝色的部分为在线性可分问题的基础上加上的惩罚函数部分，当xi在正确一边的时候，ε=0，R为全部的点的数目，C是一个由用户去指定的系数，表示对分错的点加入多少的惩罚，当C很大的时候，分错的点就会更少，但是过拟合的情况可能会比较严重，当C很小的时候，分错的点可能会很多，不过可能由此得到的模型也会不太正确，所以如何选择C是有很多学问的，不过在大部分情况下就是通过经验尝试得到的。

接下来就是同样的，求解一个拉格朗日对偶问题，得到一个原问题的对偶问题的表达式：

[![image][image 18]][image_image 18]

蓝色的部分是与线性可分的对偶问题表达式的不同之处。在线性不可分情况下得到的对偶问题，不同的地方就是α的范围从\[0, +∞)，变为了\[0, C\]，增加的惩罚ε没有为对偶问题增加什么复杂度。

**四、核函数：**

刚刚在谈不可分的情况下，提了一句，如果使用某些非线性的方法，可以得到将两个分类完美划分的曲线，比如接下来将要说的核函数。

**    **我们可以**让空间从原本的线性空间变成一个更高维的空间**，**在这个高维的线性空间下，再用一个超平面进行划分**。这儿举个例子，来理解一下如何利用空间的维度变得更高来帮助我们分类的（例子以及图片来自[pluskid的kernel函数部分][pluskid_kernel]）：

下图是一个典型的线性不可分的情况

[![image][image 19]][image_image 19]

但是当我们把这两个类似于椭圆形的点映射到一个高维空间后，映射函数为：

[![image][image 20]][image_image 20]    用这个函数可以将上图的平面中的点映射到一个三维空间（z1,z2,z3)，并且对映射后的坐标加以旋转之后就可以得到一个线性可分的点集了。

[![rotate][]][rotate 1]

用另外一个哲学例子来说：世界上本来没有两个完全一样的物体，对于所有的两个物体，我们可以通过增加维度来让他们最终有所区别，比如说两本书，从(颜色，内容)两个维度来说，可能是一样的，我们可以加上 **作者** 这个维度，是在不行我们还可以加入 **页码**，可以加入 **拥有者**，可以加入 **购买地点**，可以加入 **笔记内容**等等。**当维度增加到无限维的时候，一定可以让任意的两个物体可分了**。

回忆刚刚得到的对偶问题表达式：

[![image][image 21]][image_image 21]

我们可以将红色这个部分进行改造，令：

[![image][image 22]][image_image 22]     这个式子所做的事情就是将线性的空间映射到高维的空间,k(x, xj)有很多种，下面是比较典型的两种：

[![image][image 23]][image_image 23]    上面这个核称为多项式核，下面这个核称为高斯核，高斯核甚至是将原始空间映射为无穷维空间，另外核函数有一些比较好的性质，比如说不会比线性条件下增加多少额外的计算量，等等，这里也不再深入。一般对于一个问题，不同的核函数可能会带来不同的结果，一般是需要尝试来得到的。

**五、一些其他的问题：**

1）如何进行多分类问题：

上面所谈到的分类都是2分类的情况，当N分类的情况下，主要有两种方式，一种是1 vs (N – 1)一种是1 vs 1，前一种方法我们需要训练N个分类器，第i个分类器是看看是属于分类i还是属于分类i的补集（出去i的N-1个分类）。

后一种方式我们需要训练N \* (N – 1) / 2个分类器，分类器(i,j)能够判断某个点是属于i还是属于j。

这种处理方式不仅在SVM中会用到，在很多其他的分类中也是被广泛用到，从林教授（libsvm的作者）的结论来看，1 vs 1的方式要优于1 vs (N – 1)。

2）SVM会overfitting吗？

SVM避免overfitting，一种是调整之前说的惩罚函数中的C，另一种其实从式子上来看，min ||w||^2这个看起来是不是很眼熟？在最小二乘法回归的时候，我们看到过这个式子，这个式子可以让函数更平滑，所以SVM是一种不太容易over-fitting的方法。

转载于：本文由LeftNotEasy发布于[http://leftnoteasy.cnblogs.com][http_leftnoteasy.cnblogs.com]

[image]: /images/20220717/7ca3c8236f5e4231914b81048ddffca3.png
[image 1]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022055565831.png
[image 2]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022055574336.png
[image_image 2]: /images/20220717/200d151c8485405c8175a994c45d9a33.png
[image 3]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022055589287.png
[image_image 3]: /images/20220717/6e2855fb2d4e41c487315bbcc4e56109.png
[image 4]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022055589777.png
[image_image 4]: /images/20220717/c72fce8bebf7417eb117fbaa66ffe4b2.png
[image 5]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022055599155.png
[image_image 5]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022055584204.png
[image 6]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056007660.png
[image_image 6]: /images/20220717/a9997c7913e3400b96686cf1b405dc3a.png
[image 7]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056005675.png
[image_image 7]: /images/20220717/2400d90de86f40c3b769843b7ae5efd0.png
[image 8]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056009546.png
[image_image 8]: /images/20220717/3e3f506ba9434cd687e3ec301627c43e.png
[image 9]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/20110502205601593.png
[image_image 9]: /images/20220717/1b943b5bc40645d089c8034fe7733e10.png
[Link 1]: http://en.wikipedia.org/wiki/Lagrange_multiplier
[KKT]: http://en.wikipedia.org/wiki/Karush%E2%80%93Kuhn%E2%80%93Tucker_conditions
[image 10]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056017495.png
[image_image 10]: /images/20220717/bf18b959cb604d95a8d3c6c9a9a12a89.png
[Link 2]: http://en.wikipedia.org/wiki/Quadratic_programming#Lagrangian_duality
[Link 3]: http://blog.pluskid.org/?p=702
[plukids]: http://blog.pluskid.org/?p=682
[image 11]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056034789.png
[image_image 11]: /images/20220717/eb83f55a9e47421188d94dccfad77551.png
[image 12]: /images/20220717/915bd347cbc74bea877e571a7f52ebaf.png
[image 13]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056046118.png
[image_image 13]: /images/20220717/dcedba39b222481389e0a3878a662b53.png
[SMO]: http://en.wikipedia.org/wiki/Sequential_minimal_optimization
[image 14]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056045213.png
[image_image 14]: /images/20220717/9931bb2d38624a4090842fd64a6af7ef.png
[image 15]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056056576.png
[image_image 15]: /images/20220717/13bef761e7534ea098f89ea4e52dc245.png
[image 16]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056051526.png
[image_image 16]: /images/20220717/5887e55e551a481ab305f7fb47a6220b.png
[image 17]: /images/20220717/8dd1550e311541cc9bba18cca9fff7c8.png
[image 18]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/20110502205606347.png
[image_image 18]: /images/20220717/922b8c77ccd14ced8808e4ec8b4e4efd.png
[pluskid_kernel]: http://blog.pluskid.org/?p=685
[image 19]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056079965.png
[image_image 19]: /images/20220717/9f310e3d9f534f60af9e42bf62f1a266.png
[image 20]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056078296.png
[image_image 20]: /images/20220717/085818c456ac4ae4bee5028c338eda1b.png
[rotate]: /images/20220717/4ad41d9c312f44f6b70563b1fe82b628.png
[rotate 1]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056107476.gif
[image 21]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056134322.png
[image_image 21]: /images/20220717/8ef3fd23fa9f4503b5d12e212d3ee9ef.png
[image 22]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056132652.png
[image_image 22]: /images/20220717/35b62f47591e448f9c3a4f179f2e6f13.png
[image 23]: http://images.cnblogs.com/cnblogs_com/LeftNotEasy/201105/201105022056149239.png
[image_image 23]: /images/20220717/4e27d58049c44689b2652d0115652bef.png
[http_leftnoteasy.cnblogs.com]: http://leftnoteasy.cnblogs.com/