机器学习之 KNN 算法小结分析

àì夳堔傛蜴生んèń 2022-08-05 14:22 211阅读 0赞

**摘要**

原本想自己撰写一篇，关于 KNN 算法 文章， 但是 在 看完 JULY 的 介绍之后 ，心悦诚服 。 将算法表达得如此清楚。在 研究生学习期间 曾与 JULY 有过一面之缘 。现在 文章 节选如下 ，并附上自己对于部分 算法细节的 改进思路 、分析理解 。

**1. K近邻算法**

**1.1、什么是K近邻算法**

何谓K近邻算法，即K-Nearest Neighbor algorithm，简称KNN算法，单从名字来猜想，可以简单粗暴的认为是：K个最近的邻居，当K=1时，算法便成了最近邻算法，即寻找最近的那个邻居。为何要找邻居？打个比方来说，假设你来到一个陌生的村庄，现在你要找到与你有着相似特征的人群融入他们，所谓入伙。

用官方的话来说，所谓K近邻算法，即是给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的K个实例（也就是上面所说的K个邻居），这K个实例的多数属于某个类，就把该输入实例分类到这个类中。根据这个说法，咱们来看下引自维基百科上的一幅图：

![1353395335_6987.png][]

如上图所示，有两类不同的样本数据，分别用蓝色的小正方形和红色的小三角形表示，而图正中间的那个绿色的圆所标示的数据则是待分类的数据。也就是说，现在，我们不知道中间那个绿色的数据是从属于哪一类（蓝色小正方形or红色小三角形），下面，我们就要解决这个问题：给这个绿色的圆分类。  
我们常说，物以类聚，人以群分，判别一个人是一个什么样品质特征的人，常常可以从他/她身边的朋友入手，所谓观其友，而识其人。我们不是要判别上图中那个绿色的圆是属于哪一类数据么，好说，从它的邻居下手。但一次性看多少个邻居呢？从上图中，你还能看到：

*  如果K=3，绿色圆点的最近的3个邻居是2个红色小三角形和1个蓝色小正方形，少数从属于多数，基于统计的方法，判定绿色的这个待分类点属于红色的三角形一类。
 *  如果K=5，绿色圆点的最近的5个邻居是2个红色三角形和3个蓝色的正方形，还是少数从属于多数，基于统计的方法，判定绿色的这个待分类点属于蓝色的正方形一类。

于此我们看到，当无法判定当前待分类点是从属于已知分类中的哪一类时，我们可以依据统计学的理论看它所处的位置特征，衡量它周围邻居的权重，而把它归为(或分配)到权重更大的那一类。这就是K近邻算法的核心思想。

### 1.2、近邻的距离度量表示法 ###

上文第一节，我们看到，K近邻算法的核心在于找到实例点的邻居，这个时候，问题就接踵而至了，如何找到邻居，邻居的判定标准是什么，用什么来度量。这一系列问题便是下面要讲的距离度量表示法。但有的读者可能就有疑问了，我是要找邻居，找相似性，怎么又跟距离扯上关系了？

这是因为特征空间中两个实例点的距离可以反应出两个实例点之间的相似性程度。K近邻模型的特征空间一般是n维实数向量空间，使用的距离可以使欧式距离，也是可以是其它距离，既然扯到了距离，下面就来具体阐述下都有哪些距离度量的表示法，权当扩展。

*  **1. 欧氏距离**，最常见的两点之间或多点之间的距离表示法，又称之为欧几里得度量，它定义于欧几里得空间中，如点 x = (x1,...,xn) 和 y = (y1,...,yn) 之间的距离为：![1353398777_7638.png][]

> > (1)二维平面上两点a(x1,y1)与b(x2,y2)间的欧氏距离：
> 
> > > > ![1353399552_4107.png][]
> 
> > (2)三维空间两点a(x1,y1,z1)与b(x2,y2,z2)间的欧氏距离：
> 
> > > > ![1353399601_9675.png][]
> 
> > (3)两个n维向量a(x11,x12,…,x1n)与 b(x21,x22,…,x2n)间的欧氏距离：
> 
> > > > ![1353399644_3809.png][]
> 
> > 　　也可以用表示成向量运算的形式：
> 
> > > > ![1353399664_2255.png][]

*  **2. 曼哈顿距离**，我们可以定义曼哈顿距离的正式意义为L1-距离或城市区块距离，也就是在欧几里得空间的固定直角坐标系上两点所形成的线段对轴产生的投影的距离总和。例如在平面上，坐标（x1, y1）的点P1与坐标（x2, y2）的点P2的曼哈顿距离为：![1353398955_7627.png][]，要注意的是，曼哈顿距离依赖座标系统的转度，而非系统在座标轴上的平移或映射。

通俗来讲，想象你在曼哈顿要从一个十字路口开车到另外一个十字路口，驾驶距离是两点间的直线距离吗？显然不是，除非你能穿越大楼。而实际驾驶距离就是这个“曼哈顿距离”，此即曼哈顿距离名称的来源， 同时，曼哈顿距离也称为城市街区距离(City Block distance)。

> > (1)二维平面两点a(x1,y1)与b(x2,y2)间的曼哈顿距离 
> 
> > > > ![1353399908_7845.png][]
> 
> > (2)两个n维向量a(x11,x12,…,x1n)与 b(x21,x22,…,x2n)间的曼哈顿距离 
> 
> > ![1353399924_2304.png][]
> > 
> > 此外，还有 一些 距离 度量 相似度的方式，诸如：标注化欧氏距离、杰卡德相似系数、皮尔逊系数 等，此处不一一赘述。

**1.3、K值的选择**  
 除了上述1.2节如何定义邻居的问题之外，还有一个选择多少个邻居，即K值定义为多大的问题。不要小看了这个K值选择问题，因为它对K近邻算法的结果会产生重大影响。如李航博士的一书「统计学习方法」上所说：

> 1.  如果选择较小的K值，就相当于用较小的领域中的训练实例进行预测，“学习”近似误差会减小，只有与输入实例较近或相似的训练实例才会对预测结果起作用，与此同时带来的问题是“学习”的估计误差会增大，换句话说，K值的减小就意味着整体模型变得复杂，容易发生过拟合；
> 2.  如果选择较大的K值，就相当于用较大领域中的训练实例进行预测，其优点是可以减少学习的估计误差，但缺点是学习的近似误差会增大。这时候，与输入实例较远（不相似的）训练实例也会对预测器作用，使预测发生错误，且K值的增大就意味着整体的模型变得简单。
> 3.  K=N，则完全不足取，因为此时无论输入实例是什么，都只是简单的预测它属于在训练实例中最多的类，模型过于简单，忽略了训练实例中大量有用信息。

在实际应用中，K值一般取一个比较小的数值，例如采用[交叉验证][Link 1]法（简单来说，就是一部分样本做训练集，一部分做测试集）来选择最优的K值。

**2. 关于K近邻de改进****思路与****分析**

> 2.1 距离度量归一化，正规化；
> 
> 2.2 距离加权，K近邻加权；
> 
> 2.3 加权相似度度量分类结果；

[1353395335_6987.png]: https://img-my.csdn.net/uploads/201211/20/1353395335_6987.png
[1353398777_7638.png]: https://img-my.csdn.net/uploads/201211/20/1353398777_7638.png
[1353399552_4107.png]: https://img-my.csdn.net/uploads/201211/20/1353399552_4107.png
[1353399601_9675.png]: https://img-my.csdn.net/uploads/201211/20/1353399601_9675.png
[1353399644_3809.png]: https://img-my.csdn.net/uploads/201211/20/1353399644_3809.png
[1353399664_2255.png]: https://img-my.csdn.net/uploads/201211/20/1353399664_2255.png
[1353398955_7627.png]: https://img-my.csdn.net/uploads/201211/20/1353398955_7627.png
[1353399908_7845.png]: https://img-my.csdn.net/uploads/201211/20/1353399908_7845.png
[1353399924_2304.png]: https://img-my.csdn.net/uploads/201211/20/1353399924_2304.png
[Link 1]: http://zh.wikipedia.org/zh/%E4%BA%A4%E5%8F%89%E9%A9%97%E8%AD%89