统计学习方法——隐马尔可夫模型（HMM）

隐马尔可夫模型（HMM）广泛应用于科学研究与工程技术的多个领域，尤其在自然语言处理中占有十分重要的地位，其所适用的范围涵盖了分词、词性标注、语音识别等多个方面。

（一）HMM简介

HMM 是一个有限状态机的变体，其所包含的要素有：隐藏状态集合 Q，输出列表（观察序列）O，转移概率 A，输出概率（混淆矩阵）B 以及初始状态概率Π。如图所示。通常情况下隐藏状态和可见状态是一定的，所以 HMM 一般表示为一个三元组{Π，A，B}。

各成分公式定义如下：

关于隐马尔可夫模型，常见的问题有三种：

1. 给定模型参数，计算生成指定输出序列的概率
2. 给定模型参数，计算最有可能产生指定输出序列的隐藏状态序列
3. 给定输出序列，计算转移概率和混淆矩阵

问题 1 一般可以通过穷举搜索解决，当然考虑到效率，需要在穷举策略上做一些优化。
问题 2 通过 Viterbi 算法解决，
问题 3 通过 Baum-Welch 算法解决，下面对这两种算法做
简要介绍。

（二）Viterbi 算法

（三）Baum-Welch 算法