【转】K-Means、混合高斯分布、EM算法——斯坦福ML公开课笔记12

原创链接：http://blog.csdn.net/xinzhangyanxiang/article/details/18620261

本文对应斯坦福ML公开课的第12个视频，第12个视频与前面相关性并不大，开启了一个新的话题——无监督学习。主要内容包括无监督学习中的K均值聚类(K-means)算法，混合高斯分布模型(Mixture of Gaussians, MoG)，求解MoG模型的EM算法，以及EM的一般化形式，在EM的一般化形式之前，还有一个小知识点，即Jensen不等式(Jensen’s inequality)。