《机器学习实战》学习总结（一）KNN分类算法原理

kNN分类算法属于有监督类学习算法。

该分类算法不需要训练算法，直接对待分类点进行决策分类。

算法实现过程如下：

1、计算测试点与已知类别数据集中点的距离；

2、对距离进行排序（递增）。

3、选取与测试点距离最小的k个点。

4、确定这k个点所在的类别的出现次数。

5、前k个点出现次数最多的类别即认为是测试点的类别。

算法实现原理图如下所示：

说明：为简化，每一行的元素都用了相同的符号，不同行之间也是重复的图形，但要明确这些是不同的；

关键要理解计算过程。