监督:简单的说就是利用过去已经做过的题来求解未知的题,若能解决则称为有监督;(用标签和特征标识)

K-means聚类和分类的区别:有监督和无监督;

K-means核心思想:

1、确定K值;

2、计算样本与质心距离(欧式距离),重新计算质心;

3、重复计算,直到质心不再改变;

簇的类型:

K-means聚类算法

明显分离的

可以看到(a)中不同组中任意两点之间的距离都大于组内任意两点之间的距离,明显分离的簇不一定是球形的,可以具有任意的形状。

基于原型的

簇是对象的集合,其中每个对象到定义该簇的原型的距离比其他簇的原型距离更近,如(b)所示的原型即为中心点,在一个簇中的数据到其中心点比到另一个簇的中心点更近。这是一种常见的基于中心的簇,最常用的K-Means就是这样的一种簇类型。 
这样的簇趋向于球形。

基于密度的

簇是对象的密度区域,(d)所示的是基于密度的簇,当簇不规则或相互盘绕,并且有早上和离群点事,常常使用基于密度的簇定义。

基本的聚类分析算法:

1、K均值:基于原型的、划分的距离技术,它试图发现用户指定个数(K)的簇。

2、凝聚的层次距离:思想是开始时,每个点都作为一个单点簇,然后,重复的合并两个最靠近的簇,直到尝试单个、包含所有点的簇。

3、DBSCAN:思想是开始时,每个点都作为一个单点簇,然后,重复的合并两个最靠近的簇,直到尝试单个、包含所有点的簇。

距离度量:

K-means聚类算法

K-means聚类算法

参考:https://blog.csdn.net/taoyanqi8932/article/details/53727841

相关文章: