k近邻法(KNN)和KMeans算法

k近邻算法（KNN）：

三要素：k值的选择，距离的度量和分类决策规则

 

KMeans算法，是一种无监督学习聚类方法：

通过上述过程可以看出，和EM算法非常类似。一个简单例子, k=2:

畸变函数（distortion function）:

 时间复杂度：O(tKmn)，其中，t为迭代次数，K为簇的数目，m为样本数，n为维数

空间复杂度：O((m+K)n)，其中，K为簇的数目，m为样本数，n为维数