K-近邻算法

距离度量

k-近邻算法根据特征比较，然后提取样本集中特征最相似数据(最邻近)的分类标签。

2维例子可用

两点距离公式

计算距离：

在这里插入图片描述

k-近邻算法步骤如下：

1、计算已知类别数据集中的点与当前点之间的距离；

2、按照距离递增次序排序；

3、选取与当前点距离最小的k个点；

4、确定前k个点所在类别的出现频率；

5、返回前k个点所出现频率最高的类别作为当前点的预测分类。

如果是更高维的可以用

欧氏距离

(也称欧几里德度量)，两点距离公式就是欧氏距离在二维空间上的公式，也就是欧氏距离的n的值为2的情况。

在这里插入图片描述

分类器并不会得到百分百正确的结果，我们可以使用多种方法检测分类器的正确率。此外分类器的性能也会受到多种因素的影响，如分类器设置和数据集等。不同的算法在不同数据集上的表现可能完全不同。为了测试分类器的效果，我们可以使用已知答案的数据，当然答案不能告诉分类器，检验分类器给出的结果是否符合预期结果。通过大量的测试数据，我们可以得到分类器的错误率-分类器给出错误结果的次数除以测试执行的总数。错误率是常用的评估方法，主要用于评估分类器在某个数据集上的执行效果。完美分类器的错误率为0，最差分类器的错误率是1.0。同时，我们也不难发现，k-近邻算法没有进行数据的训练，直接使用未知的数据与已知的数据进行比较，得到结果。因此，可以说k-近邻算法不具有显式的学习过程。

k-近邻算法的一般流程：

1、收集数据：可以使用爬虫进行数据的收集，也可以使用第三方提供的免费或收费的数据。一般来讲，数据放在txt文本文件中，按照一定的格式进行存储，便于解析及处理。

2、准备数据：使用Python解析、预处理数据。

3、分析数据：可以使用很多方法对数据进行分析，例如使用Matplotlib将数据可视化。

4、测试算法：计算错误率。

5、使用算法：错误率在可接受范围内，就可以运行k-近邻算法进行分类。

电影分类实例：

# 电影分类
# 准备数据集
import numpy as np
import operator
def createDataSet():
    #四组二维特征
    group = np.array([[1,101],[5,89],[108,5],[115,8]])
    #四组特征的标签
    labels = ['爱情片','爱情片','动作片','动作片']
    return group, labels

#创建数据集
group, labels = createDataSet()
#打印数据集
print(group)
print(labels)

在这里插入图片描述

根据两点距离公式，计算距离，选择距离最小的前k个点，并返回分类结果。

"""
函数说明:kNN算法,分类器
 
Parameters:
    inX - 用于分类的数据(测试集)
    dataSet - 用于训练的数据(训练集)
    labes - 分类标签
    k - kNN算法参数,选择距离最小的k个点
Returns:
    sortedClassCount[0][0] - 分类结果

"""
def classify0(inX, dataSet, labels, k):
    #numpy函数shape[0]返回dataSet的行数 # group.shape[0]=4
    dataSetSize = dataSet.shape[0]
    #在列向量方向上重复inX共1次(横向)，行向量方向上重复inX共dataSetSize次(纵向)
    diffMat = np.tile(inX, (dataSetSize, 1)) - dataSet
    #二维特征相减后平方
    sqDiffMat = diffMat**2
    #sum()所有元素相加，sum(0)列相加，sum(1)行相加
    sqDistances = sqDiffMat.sum(axis=1)
    #开方，计算出距离
    distances = sqDistances**0.5
    #返回distances中元素从小到大排序后的索引值
    sortedDistIndices = distances.argsort()
    #定一个记录类别次数的字典
    classCount = {}
    for i in range(k):
        #取出前k个元素的类别
        voteIlabel = labels[sortedDistIndices[i]]
        #dict.get(key,default=None),字典的get()方法,返回指定键的值,如果值不在字典中返回默认值。
        #计算类别次数
        classCount[voteIlabel] = classCount.get(voteIlabel,0) + 1
    #python3中用items()替换python2中的iteritems()
    #key=operator.itemgetter(1)根据字典的值进行排序
    #key=operator.itemgetter(0)根据字典的键进行排序
    #reverse降序排序字典
    sortedClassCount = sorted(classCount.items(),key=operator.itemgetter(1),reverse=True)
    #返回次数最多的类别,即所要分类的类别
    return sortedClassCount[0][0]
 

#创建数据集
group, labels = createDataSet()
#测试集
test = [101,20]
#kNN分类
test_class = classify0(test, group, labels, 3)
#打印分类结果
print(test_class)  # out:动作片

参考文章：https://cuijiahua.com/blog/2017/11/ml_1_knn.html

原文链接：https://blog.csdn.net/qq_45850131/article/details/123820279

K-近邻算法

你可能也喜欢