EM算法及混合高斯模型详细推导

EM模型是一个大的范畴，在模型包含隐变量的情况下，根据观测求模型参数，EM算法的典型应用有混合高斯模型及隐马尔可夫模型。想要真正理解EM算法，了解混合高斯模型及隐马尔可夫模型的算法推导是很有必要的。以下两个图，本人结合《统计学习方法》上的算法推导及自己的理解，总结了EM算法及混合高斯模型的推导过程。其中混合高斯模型处理的是一维数据，多维数据的在其基础上有些变化，随后整理。