KNN是什么?

KNN的英文是k-NearestNeighbor(K最近邻),是一种邻近算法。

K是什么?

KNN通过依据k个对象中占优的类别进行决策.它的主要思想是看这个数据距离最近的 K 个节点中,这些节点哪个类占最多
机器学习之KNN学习笔记
那怎么选取范围呢?就要用到距离公式:
机器学习之KNN学习笔记
机器学习之KNN学习笔记

算法实现步骤

(1) 计算测试数据与各个训练数据之间的距离;

(2)按照距离的递增关系进行排序;

(3)选取距离最小的K个点;

(4)确定前K个点所在类别的出现频率;

(5)返回前K个点中出现频率最高的类别作为测试数据的预测分类。

相关文章: