【机器学习】——K近邻算法（KNN）

素颜马尾好姑娘i 2022-02-21 06:37 287阅读 0赞

### **一 . K-近邻算法（KNN）概述 ** ###

最简单最初级的分类器是将全部的训练数据所对应的类别都记录下来，当测试对象的属性和某个训练对象的属性完全匹配时，便可以对其进行分类。但是怎么可能所有测试对象都会找到与之完全匹配的训练对象呢，其次就是存在一个测试对象同时与多个训练对象匹配，导致一个训练对象被分到了多个类的问题，基于这些问题呢，就产生了KNN。

KNN是通过测量不同特征值之间的距离进行分类。它的思路是：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别，其中K通常是不大于20的整数。KNN算法中，所选择的邻居都是已经正确分类的对象。该方法在定类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。

下面通过一个简单的例子说明一下：如下图，绿色圆要被决定赋予哪个类，是红色三角形还是蓝色四方形？如果K=3，由于红色三角形所占比例为2/3，绿色圆将被赋予红色三角形那个类，如果K=5，由于蓝色四方形比例为3/5，因此绿色圆被赋予蓝色四方形类。

![041623504236939.jpg][]

由此也说明了KNN算法的结果很大程度取决于K的选择。

在KNN中，通过计算对象间距离来作为各个对象之间的非相似性指标，避免了对象之间的匹配问题，在这里距离一般使用欧氏距离或曼哈顿距离：

![041625523458191.jpg][]

同时，KNN通过依据k个对象中占优的类别进行决策，而不是单一的对象类别决策。这两点就是KNN算法的优势。

接下来对KNN算法的思想总结一下：就是在训练集中数据和标签已知的情况下，输入测试数据，将测试数据的特征与训练集中对应的特征进行相互比较，找到训练集中与之最为相似的前K个数据，则该测试数据对应的类别就是K个数据中出现次数最多的那个分类，其算法的描述为：

1）计算测试数据与各个训练数据之间的距离；

2）按照距离的递增关系进行排序；

3）选取距离最小的K个点；

4）确定前K个点所在类别的出现频率；

5）返回前K个点中出现频率最高的类别作为测试数据的预测分类。

### 二、实例 ###

1、创建一个KNN.py文件，里边代码如下：

#coding:utf-8
    
    from numpy import *
    import operator
    
    ##给出训练数据以及对应的类别
    def createDataSet():
        group = array([[1.0,2.0],[1.2,0.1],[0.1,1.4],[0.3,3.5]])
        labels = ['A','A','B','B']
        return group,labels
    
    ###通过KNN进行分类
    def classify(input,dataSet,label,k):
        dataSize = dataSet.shape[0]
        ####计算欧式距离
        diff = tile(input,(dataSize,1)) - dataSet
        sqdiff = diff ** 2
        squareDist = sum(sqdiff,axis = 1)###行向量分别相加，从而得到新的一个行向量
        dist = squareDist ** 0.5
        
        ##对距离进行排序
        sortedDistIndex = argsort(dist)##argsort()根据元素的值从大到小对元素进行排序，返回下标
    
        classCount={}
        for i in range(k):
            voteLabel = label[sortedDistIndex[i]]
            ###对选取的K个样本所属的类别个数进行统计
            classCount[voteLabel] = classCount.get(voteLabel,0) + 1
        ###选取出现的类别次数最多的类别
        maxCount = 0
        for key,value in classCount.items():
            if value > maxCount:
                maxCount = value
                classes = key
    
        return classes

2、接下来，在命令行窗口输入如下代码：

#-*-coding:utf-8 -*-
    import sys
    sys.path.append("...KNN.py文件路径...")
    import KNN
    from numpy import *
    dataSet,labels = KNN.createDataSet()
    input = array([1.1,0.3])
    K = 3
    output = KNN.classify(input,dataSet,labels,K)
    print("测试数据为:",input,"分类结果为：",output)

![20190410155436690.png][]

### 三、KD树 ###

实现k近邻法时，主要考虑的问题是如何对训练数据进行快速k近邻搜索。这在特征空间的维数大及训练数据容量大时尤其必要。k近邻法最简单的实现是线性扫描（穷举搜索），即要计算输入实例与每一个训练实例的距离。计算并存储好以后，再查找K近邻。当训练集很大时，计算非常耗时。为了提高kNN搜索的效率，可以考虑使用特殊的结构存储训练数据，以减小计算距离的次数。

kd树(K-dimension tree)是一种对k维空间中的实例点进行存储以便对其进行快速检索的树形数据结构。kd树是是一种二叉树，表示对k维空间的一个划分，构造kd树相当于不断地用垂直于坐标轴的超平面将K维空间切分，构成一系列的K维超矩形区域。kd树的每个结点对应于一个k维超矩形区域。利用kd树可以省去对大部分数据点的搜索，从而减少搜索的计算量。

![890966-20161123110856159-175985324.png][]

对一个三维空间，kd树按照一定的划分规则把这个三维空间划分了多个空间，如下图所示

![890966-20161123111306331-1701084180.png][]

类比“二分查找”：给出一组数据：\[9 1 4 7 2 5 0 3 8\]，要查找8。如果挨个查找（线性扫描），那么将会把数据集都遍历一遍。而如果排一下序那数据集就变成了：\[0 1 2 3 4 5 6 7 8 9\]，按前一种方式我们进行了很多没有必要的查找，现在如果我们以5为分界点，那么数据集就被划分为了左右两个“簇” \[0 1 2 3 4\]和\[6 7 8 9\]。因此，根本久没有必要进入第一个簇，可以直接进入第二个簇进行查找。把二分查找中的数据点换成k维数据点，这样的划分就变成了用超平面对k维空间的划分。空间划分就是对数据点进行分类，“挨得近”的数据点就在一个空间里面。

构造kd树的方法如下：构造根结点，使根结点对应于K维空间中包含所有实例点的超矩形区域；通过下面的递归的方法，不断地对k维空间进行切分，生成子结点。在超矩形区域上选择一个坐标轴和在此坐标轴上的一个切分点，确定一个超平面，这个超平面通过选定的切分点并垂直于选定的坐标轴，将当前超矩形区域切分为左右两个子区域（子结点）；这时，实例被分到两个子区域，这个过程直到子区域内没有实例时终止（终止时的结点为叶结点）。在此过程中，将实例保存在相应的结点上。通常，循环的择坐标轴对空间切分，选择训练实例点在坐标轴上的中位数为切分点，这样得到的kd树是平衡的（平衡二叉树：它是一棵空树，或其左子树和右子树的深度之差的绝对值不超过1，且它的左子树和右子树都是平衡二叉树）。

KD树中每个节点是一个向量，和二叉树按照数的大小划分不同的是，KD树每层需要选定向量中的某一维，然后根据这一维按左小右大的方式划分数据。在构建KD树时，关键需要解决2个问题：（1）选择向量的哪一维进行划分；（2）如何划分数据。第一个问题简单的解决方法可以是选择随机选择某一维或按顺序选择，但是更好的方法应该是在数据比较分散的那一维进行划分（分散的程度可以根据方差来衡量）。好的划分方法可以使构建的树比较平衡，可以每次选择中位数来进行划分，这样问题2也得到了解决。

构造平衡kd树算法：   
输入：维空间数据集，其中  
输出：kd树

（1）开始：构造根结点，根结点对应于包含T的k维空间的超矩形区域。选择为坐标轴，以T中所有实例的坐标的中位数为切分点，将根结点对应的超矩形区域切分为两个子区域。切分由通过切分点并与坐标轴垂直的超平面实现。由根结点生成深度为1的左、右子结点：左子结点对应坐标小于切分点的子区域，右子结点对应于坐标大于切分点的子区域。将落在切分超平面上的实例点保存在根结点。

（2）重复。对深度为j的结点，选择为切分的坐标轴，，以该结点的区域中所有实例的坐标的中位数为切分点，将该结点对应的超矩形区域切分为两个子区域。切分由通过切分点并与坐标轴垂直的超平面实现。由该结点生成深度为j+1的左、右子结点：左子结点对应坐标小于切分点的子区域，右子结点对应坐标大于切分点的子区域。将落在切分超平面上的实例点保存在该结点。

下面用一个简单的2维平面上的例子来进行说明。

例. 给定一个二维空间数据集：，构造一个平衡kd树。

解：根结点对应包含数据集T的矩形，选择轴，6个数据点的坐标中位数是6，这里选最接近的(7,2)点，以平面将空间分为左、右两个子矩形（子结点）；接着左矩形以分为两个子矩形（左矩形中\{(2,3),(5,4),(4,7)\}点的坐标中位数正好为4），右矩形以分为两个子矩形，如此递归，最后得到如下图所示的特征空间划分和kd树。

![890966-20161123134503362-571302342.png][]

【参考资料】

参考资料1：[https://www.cnblogs.com/ybjourney/p/4702562.html][https_www.cnblogs.com_ybjourney_p_4702562.html]

参考资料2：[https://cuijiahua.com/blog/2017/11/ml\_1\_knn.html][https_cuijiahua.com_blog_2017_11_ml_1_knn.html]

[041623504236939.jpg]: /images/20220221/c08fb07ad2c94ba383f53af3bb756f99.png
[041625523458191.jpg]: /images/20220221/74978a5ee4d14ed78dfb7ff64054a0ee.png
[20190410155436690.png]: /images/20220221/42dac35e14d44ae1b490e511beff22f0.png
[890966-20161123110856159-175985324.png]: /images/20220221/c341376ed5cb4325bcf2471f8d6cd6e6.png
[890966-20161123111306331-1701084180.png]: /images/20220221/520e5330faaa44f9b7680ed3359af827.png
[890966-20161123134503362-571302342.png]: /images/20220221/7227785bdfd344c9a781dec44eb78aee.png
[https_www.cnblogs.com_ybjourney_p_4702562.html]: https://www.cnblogs.com/ybjourney/p/4702562.html
[https_cuijiahua.com_blog_2017_11_ml_1_knn.html]: https://cuijiahua.com/blog/2017/11/ml_1_knn.html