最近邻中的度量有效性

Question

kNN 算法是否要求距离遵循距离公理？如果我应用失败的指标会发生什么：

d(a,c) < d(a,b) + d(b,c)

关于 KMeans 聚类的同样问题？

Answer 1

kNN 只需要一个接近度度量，其中较小的值意味着更接近。这是因为 kNN 将新的观察结果与训练示例进行比较，并找到最接近的 k 个（接近值最低的第一个 k）。 对于 kMeans use search.

编辑： 尽管 kNN 不需要三角方程，但它在 O(n*m) 时间内运行，其中 n 是训练集的大小，m 是评估集的大小。优化通常至少需要三角方程才能成立，尽管其中一些有更多的约束（例如：k-d 树只在欧几里得空间中工作）。有关更多信息，请参阅this question。