机器学习： K-means 聚类

今天介绍机器学习里常见的一种无监督聚类算法，K-means。我们先来考虑在一个高维空间的一组数据集，nj=0,j≠k，那么我们可以定义如下的目标函数：

|2

这个目标函数就是要求 J 的值最小。

为了解决上面这个问题，因为要同时求 nk 固定不动。

很显然，当我们求 μk 的距离，选择距离最近的一个类即可:

|2

而求 J 求导，

)=0

从而我们可以求得 μk :

nk

通过这样的反复迭代，直到所有的 μk 都不再变化。