隐马尔可夫模型（Hidden Markov Model）
隐马尔可夫模型（Hidden Markov Model）
1、简介
隐马尔可夫模型（Hidden Markov Model）在众多领域中被认为是最有效的解决方法之一，在自然语言处理等应用中表现尤为突出。
2、马尔科夫假设
根据马尔科夫假设，在随机过程中任何一个状态St的概率分布仅与其 immediately preceding的状态St-1相关。即P(St|S1,S2,S3,…,St-1) = P(St|St-1)成立。
3、马尔科夫链
基于上述假设的推导过程可知，在马尔科夫链中任何时刻的状态转移仅依赖于前一时刻的状态。
满足马尔科夫假设的随机过程被称为马尔科夫过程或马尔科夫链，在其状态转换图中用四个节点表示四个状态，在各边上标示转移概率权重
4、隐含马尔可夫模型的三个基本问题
（1）给定一个模型，如何计算某个特定的输出序列的概率？
Forward-Backward算法
学习问题： Baum-Welch算法(向前向后算法) [1]
（2）给定一个模型和某个特定的输出序列，请确定对应的状态序列。
维特比算法
解码问题： Viterbi算法
（3）基于充足量的观测数据，请推导隐含马尔可夫模型的相关参数。 该评估任务涉及运用前向算法进行求解。
更为高效的方法是仅依赖于观测数据序列O₁, O₂, O₃,…来估计模型参数P(Sₜ|Sₜ₋₁)和P(Oₜ|Sₜ)的过程（基于无监督训练算法），其中核心采用鲍姆-韦尔奇算法。
5、隐含马尔可夫模型的五元组
HMM是一个五元组（O , Q , O0，A , B）:
O:{o1,o2,…,ot}是状态集合，也称为观测序列。
Q:{q1,q2,…,qv}是一组输出结果，也称为隐序列。
Aij = P(qj|qi)：转移概率分布
Bij = P(oj|qi)：发射概率分布
O0是初始状态，有些还有终止状态。