Advertisement

HMM隐马尔可夫模型详解

阅读量：

目录

关于什么是隐马尔可夫模型我想你看到的解释应该是酱紫的：

或者是这样子的：

一、什么是隐马尔可夫模型

二、隐马尔可夫模型要解决的问题

三、问题解决

1.概率计算问题：

2.学习问题：

3.预测问题：

关于什么是隐马尔可夫模型我想你看到的解释应该是酱紫的：

隐马尔科夫模型 （HMM）是一种统计学工具，在概率论与统计学中被广泛应用。它用于建模具有潜在未知状态的马尔可夫链，并通过观测数据推断出隐藏的状态序列。其核心挑战在于从观测数据中推断出隐藏的状态序列并基于这些估计进行后续分析和预测。这种数学工具在语音识别、自然语言处理等多个领域得到了广泛应用，并且在生物信息学和模式识别等领域也展现出显著的应用价值。

或者是这样子的：

隐式马尔可夫模型 是一种用于分析时序数据的概率工具。它通过隐藏的马尔可夫链生成不可见的状态序列，并通过每个状态对应生成观测数据的过程来描述观察序列的形成机制。

不必担心自己看不懂的知识或内容；也别过于纠结于无法完全理解的部分；这可能源于专业出版对定义的严格要求。因此，在阅读过程中出现暂时不解的情况是正常的；我喜欢博客上的博文链接或文章（博文），这些大神们的作品通常能够解答我在学习过程中遇到的根本问题；只要先了解他们的观点后去阅读相关的书籍或文献；就能全面掌握所需知识或信息了。

一、什么是隐马尔可夫模型

我们先用一个例子来说明一下什么是隐马尔可夫模型

这一实例起源于Yang Eninala博士在知乎平台上的问答内容https://www.zhihu.com/question/20962240/answer/33438846]

一个经典的案例就是投掷不同的多面形。假设我在手上拥有三个不同类型的骰子。其中第一个是我们日常使用的六面体（命名为D6），每个数字从1到6出现的概率均为1/6。第二个是一个四面形（命名为D4），四个面上的数字1到4各出现的概率都是相等的。第三个则是一个八面色体（命名为D8），其上标记的数字从1到8各出现的概率也相同。

假设我们开始掷骰子。首先从三个骰子中选择一个，在这种情况下每个骰子被选中的概率均等。接着我们投掷骰子并记录下出现的数值（范围在1至8之间）。不断重复这一过程将有助于生成一系列随机的结果序列。比如，在连续投掷十次后我们将可能会获得以下序列：1,6,3,5,2,7,3,5,2,4

这些数字被称作可见状态序列。然而，在隐马尔可夫模型中不仅存在一条可见的状态序列还存在一条隐藏的状态序列。例如在这个例子中隐藏的状态序相当于你使用的骰子序列比如在这一例子中的隐藏状态序列为D6,D8,D8,D6,D4,D8,D6,D6,D4,D8基于上述问题的研究基础之上形成了隐马尔可夫模型理论体系

马尔可夫链并非专门用于隐马尔科夫模型而生，并非其应用仅限于隐马尔科夫领域

我们再来看看马尔可夫链的定义过程：

马尔可夫过程的定义：

⑴设

是一个随机过程，如果在

在

时刻所处的状态为已知时，

以后的状态与它在时刻

若某状态与其过去的状态独立于，则称该状态具有马尔可夫性。（即当前状态的概率仅受前一状态的影响）。

⑵设

的状态空间为

，如果对于任意的

，任意的

，在条件

下，

的条件概率分布函数恰好等于其在条件

下的条件概率分布函数，即

则称

为马尔可夫过程。

基于通过数学表达式来描述定义(1)，我们有P(t时刻的状态 | 前 t−1 时刻发生的情况) = P(t时刻的状态 | t−1 时刻发生的情况)

其实在HMM中

二、隐马尔可夫模型要解决的问题

*在提问题之前我们先来定义几个变量(重新看一下这个图的图例)

*几个矩阵的定义

|所有可能的状态集合

Q

={

q_{1},q_{2},q_{3},...,q_{N-1},q_{N}

}|所有可能的观测集合

V

={

v_{1},v_{2},v_{3},...,v_{M-1},v_{M}

}|||
|---|---|---|---|
|T时刻的状态序列

I

=(

i_{1},i_{2},i_{3},...,i_{t-1},i_{t}

|i ∈Q)|T时刻的观测序列

O

=(

o_{1},o_{2},o_{3},...,o_{t-1},o_{t}

|o ∈V)|
|状态转移概率矩阵 A=_{N*N}

a_{i,j}

表示t时刻处于状态

i_{t}=q_{i}

转移至

i_{t+1}=q_{j}

的转化概率|观测概率矩阵 B=_{N*M}

b_{j}

表示处于状态

q_{j}

下生成观测

o_{t}=v_{k}

模型参数 λ(A,B,Π)，其中 Π 表示初始状态的概率向量；A 代表状态转移的概率矩阵；B 是观测的概率矩阵；这些参数共同决定了隐藏的状态序列；而 B 则决定了观察到的序列

*马尔可夫链的两个假设

(1)齐次马尔可夫假设： 即t时刻的状态只受t-1时刻状态的影响
(2)观测独立性假设： 即任意时刻的观测只受该时刻所处状态的影响

*马尔可夫模型的三个基本问题

|(1)概率计算问题：|给定模型参数 λ(A,B,Π)和观测序列

O

=(

o_{1},o_{2},o_{3},...,o_{t-1},o_{t}

)，计算在模型λ 下观测序列O出现的概率

P

|
|---|---|---|
|(2)学习问题：|给定观测序列

O

=(

o_{1},o_{2},o_{3},...,o_{t-1},o_{t}

)，求参数λ(A,B,Π)，这就是类似EM算法的问题了.||
|(3)预测问题：|给定参数 λ(A,B,Π)和观测序列

O

=(

o_{1},o_{2},o_{3},...,o_{t-1},o_{t}

)，求隐含的状态序列

I

=(

i_{1},i_{2},i_{3},...,i_{t-1},i_{t}

).||

问题(1)属于条件概率类的问题。(2)为了解决该问题采用了Baum-Welch算法。该方法源于Expectation-Maximization（EM）算法的发展，在其中涉及到了极大似然估计的相关知识。本文将简要介绍EM算法的基本概念。对于极大似然估计方面的知识建议先补充相关基础后再深入研究。未来有机会我会撰写关于这一主题的详细博文。(3)构成了隐马尔可夫模型的核心内容。许多领域将隐马尔科夫模型的主要应用集中在问题(3)上。例如，在机器翻译中将中文转换为英文时每个单词都有多个可能的含义其词性的特点往往在识别过程中起到关键作用。初看起来似乎两者之间并无直接关联但它们之间确实存在某种潜在联系

I

=(

i_{1},i_{2},i_{3},...,i_{t-1},i_{t}

)很像呢！类似这样的还有很多.......

仅需了解HMM的基本概念时，达到这个水平已经足够。若对其实体结构感兴趣，请继续阅读。

三、问题解决

1.概率计算问题：

直接计算算法： 对所有可能存在的状态序列

I

=(

i_{1},i_{2},i_{3},...,i_{t-1},i_{t}

)，表示出来，形成一个状态序列空间

D

{

I_{1},I_{2},I_{3},...,I_{z}

},并求

P

，即基于模型

ambda

求空间D中全部状态序列下出现O的概率。

联合概率

P=Pdot P

变成

ambda

发生的条件下

I

发生的概率

P

乘以

ambda

,

I

发生的条件下O发生的概率

其中 1)

P=i {i}dot a{i_{1},i_{2}}dot a_{i_{2},i_{3}}dot...dot a_{i_{t-1},i_{t}}

，

I

=

,

Ipsilon D
D

表示所有可能状态序列

P=b_{i_{1}}dot b_{i_{2}}dot ...dot b_{i_{t}}

故

P=i {i}dot b{i_{1}}dot a_{i_{1},i_{2}}dot b_{i_{2}}dot a_{i_{2},i_{3}}dot b_{i_{3}}dot...dot a_{i_{t-1},i_{t}}dot b_{i_{t}}

对所有满足

D

的

I

求和得到

P=um _{Ipsilon D}P
=um {Ipsilon D}i {i}dot b{i{1}}dot a_{i_{1},i_{2}}dot b_{i_{2}}dot a_{i_{2},i_{3}}dot b_{i_{3}}dot...dot a_{i_{t-1},i_{t}}dot b_{i_{t}}

至此算法结束

前向算法： 直接计算算法很简单便捷，但是计算量很大，假设状态集合

Q

有N个可选的状态，而状态序列

I

有t个节点则可选的状态序列空间

D

就有

N^{t}

个可选序列，这意味这求和项要求和

N^{t}

此轮次过后可知计算量极为有限的少。从而导致采用了前向算法：在每个节点处首先将N个状态分别乘以相应的转化率；接着将这些结果相加得到最终值。无需过分纠结于细节解释即可开始绘制流程图。

大概看一下 ：

定义:

a_{t}=P

，表示时刻t，其部分观测序列为

o_{1},o_{2},...,o_{t}

，且状态等于

Q

中的

q_{i}

故：

(1)初值：

a_{1}=i_{i}b_{i},ipsilon Q

即

i

遍历状态集合

(2)递推 for t =1 to T-1 a_{t+1}= b_{i},ipsilon Q

即对上一个节点的所以状态乘转化率后求和再乘本 节点的生成概率

(3)终止

P=um {Ipsilon Q}a{T}

对最后一节点的所有

a_{T}

求和

后向算法： 与前向算例相似，并非完全不同；其形状与前向算例相同,仅是方向相反

a_t

的位置换成

eta_t

。

定义：

eta_t =P

，表示

i_t

时刻状态为

q_i

的条件下，往后部分观测序列为

o_{t+1},o_{t+2},...,o_{T}

的概率

(1)初值：

eta_T=1,ipsilon Q

(2)递推 for t=T-1 to 1

eta t=um{jpsilon D}a_{i,j}dot b_j dot eta _{t+1},ipsilon D

(3) 终止

P=um_{ipsilon Q}um_{jpsilon Q}i_{i}dot a_{i,j} dot b_jdot eta _{t+1}

完成三个关于概率计算的算法后，在验证或推导问题（2）和（3）的相关内容时，我们引入了必要的概率计算与期望分析。

一些概率与期望值的计算

1)给定模型

ambda

和观测序列

O

，在t时刻处于状态

q_i

的概率为：

amma _t=P=rac{P}{P}

由上述前向概率

a_t

和后向概率

eta _t

的定义可知:

a_tdot eta _t=P

于是得到：

amma _t=rac{a_tdot eta _t}{P}=rac{a_tdot eta t}{um{jpsilon Q}a_tdot eta _t}

2)给定模型

ambda

和观测序列

O

，在t时刻状态

q_i

，且在t+1时刻处于状态

q_j

的概率为：

i _t=P=rac{P}{P}
i t=rac{a_t a{ij} b_ieta _{t+1}}{um _{ipsilon D}um {jpsilon D}a_ta{ij}b_jeta _{t+1}}

3)将

amma _t

和

i _t

对各个时刻t求和，可以得到一些有用的期望：

①在观测序列

O

的条件下状态

i

出现的期望值：

um_{t=1}^{T}amma _t

②在观测序列

O

的条件下由状态

i

转移的期望值：

um_{t=1}^{T-1}amma _t

③在观测序列

O

的条件下由状态

i

转移到状态

j

的期望值：

um_{t=1}^{T}i _t

注：上面几个应该有错，似乎忽略了各个时刻相交的部分，使得期望变大。

取1为例，在假设状态集合Q包含10个不同的状态下，并且在时间点T等于10时，在每个时间点t中（即每个时刻下），符号i出现的概率均相同。

则

{olor{Blue} amma _t}

=0.1，

{olor{Blue}um_{t=1}^{T}amma _t}

=1，这是不可能存在的，

应该是

{olor{Blue} 0.1+0.1+2*0.1......+(1-0.1)90.1}

。

通项就是

{olor{Blue} 0.1*um _{i=1}{T}(1-0.1){T-1}}

但是

Q

的分布总是乱七八糟的，没办法写出通项来。

2.学习问题：

学习问题就是给定观测序列

O=

，求参数

ambda

映射到我们起初提到的骰子的例子大概就是知道了观测序列为

O=

要求参数

1)A: t时刻选用骰子D4到t+1时刻选用骰子D6或D8的转换概率。

2)B: 任意时刻选用固定骰子后出现某个点数

v_i

的概率。

3)Π: 其实选择骰子D4、D6、D8的概率。

如果知道了隐藏的状态序列

I

，即是每个时刻都选用了哪个骰子的话，求参数

ambda

我们直接选用极大似然估计就好了，可是关键在于我们并不知道

I

属于哪一类任务。基于此，我们运用Baum-welch算法来进行推断工作；而这种算法实际上源自于EM算法的一种变形。

Baum-Welch算法：

为此提出的一种解决方法是针对HMM这一统计工具提出的解决方案。其中关键在于状态序列未知的情况下如何进行参数估计的问题。具体来说，在这种情况下我们面临的是一个含有隐变量的概率模型推断问题即已知观测序列O=(o1,o2,...,oT)，我们需要估计出模型参数λ=(A,B,π)，使得在给定这些参数的情况下观测序列的概率P(O|λ)达到最大值。由于状态序列未知因此这个问题可以通过优化模型参数来实现目标进而求解最优解的过程这就是为什么EM算法在这种情况下被广泛采用的原因之一。Baum-Welch算法则是针对隐马尔科夫模型学习问题中的核心挑战——存在不可观察的状态序列时如何进行参数估计所提出的经典解决方案它通过迭代更新的方式逐步逼近最优解从而实现了对模型中隐藏变量的有效建模与推断过程

基于Expectation-Maximization (EM) algorithm, 我们需要首先写出Q function. Q function represents the expected value of the complete data's log-likelihood under the conditional probability distribution of hidden variables given observed variables and model parameters.

当我们建立Q函数后，则需在其后续部分进行极大化处理。这也就意味着EM算法中的M步。在最大化的过程中，则需确保所采用的操作不会影响到最终结果。允许我们在最大化过程中对Q函数乘以或除以不影响最终结果的常数因子。值得注意的是，在Q函数中涉及的部分

这一概率值便是我们在概率计算问题中所关注的核心内容。对于固定的参数值而言这是一个常数项。因此我们可以将其乘积应用到原先设定的Q函数上从而使得Q函数得以简化形成新的形式：

为什么采取这种措施呢？是为了将后面的...中的有意义的概率计算公式直接套用到相关问题中去吗？

又因为完全数据可以写成这样：

于是Q函数可以写成：

当前观察到待估量恰好出现在三个项中。仅需各自对该三项进行最大化处理。接着直接最大化这一过程由于缺乏详细描述而显得不够完善。因此建议进一步优化该Q函数表达式。

可以看到，我们将三项中分别的对的求和进行了划分。由于隐变量

I

=(

i_{1},i_{2},i_{3},...,i_{t-1},i_{t}

)。原来的求和需要遍历所有

I

其取值范围，在完成求和运算后发现显然这是不可行的任务。改写后的方式是将遍历的空间进行了系统性划分，并且有效地实现了空间划分的目标。

P

部分改写后也融入到求和其中。比如第一项，对

I

的遍历等价于先固定状态

i_1

，使其分别取值所有可能的状态（共有N个可取的离散状态），而

i_2-i_t

仍然随意选取其值。这样就能将整个II空间划分为N个更小的子空间。然后将这N个子空间的结果相加起来就等价于直接对整个II空间进行计算的效果

I

进行遍历。

而且，改写之后

P

部分变的可以表示了。如果对

Q

对于函数的三个组成部分而言，在进行极大值求解之后会发现, 上述推导出来的有意义的概率值能够用来表示. 这也即是指前文所述的内容.

Q

函数进行修改的原因。

接下来极大化

Q

，并求解满足目标最大化的参数A、B、

i

的值

用上面推导的公式有

i_i=amma _1

，

表示给定模型

ambda

和观测序列

O

，在t=1时刻处于状态

q_i

的概率

amma _1=rac{a_1dot eta _1}{P}=rac{a_1dot eta 1}{um{jpsilon Q}a_tdot eta _t}
a_{ij}=rac{um _{t=1}^{T}i _t}{um _{t=1}^{T}amma _t}

表示对 (任意时刻由状态

q_i

转移到状态

q_j

的所有求和项) 比上 (任意时刻处于状态

q_i

的所有求和项)

表示对（任意时刻状态为

q_j

观测值为

v_k

的所有求和项) 比上 (任意时刻状态为

q_j

的所有求和项)

3.预测问题：

给定参数 λ(A,B,Π)和观测序列

O

=(

o_{1},o_{2},o_{3},...,o_{t-1},o_{t}

)，求隐含的状态序列

I

=(

i_{1},i_{2},i_{3},...,i_{t-1},i_{t}

).

通过案例研究的方式，在已知条件下求解隐含的概率分布类型。

近似算法：

用公式表示就是

amma _t=P=rac{P}{P}
a_tdot eta _t=P
amma _t=rac{a_tdot eta _t}{P}=rac{a_tdot eta t}{um{jpsilon Q}a_tdot eta _t}

在每个时刻最可能隐藏的状态 i_t^*=argmax ,_{,t=1,2,...,T}

从而状态序列：

I^*=

由于存在转移概率为0的相邻状态，改算法很不稳定

维比特算法：

维比特算法分两步

第一步

计算每一步的

elta _t

值，即t时刻对每个状态求最大的

P

，并返回连接到当前状态的前一个最优状态。

始化

elta _1=i_ib_i,i=1,2,......,N
arphi _1=0

递推 elta _t=max_jb_i,i=1,2,......,N
arphi _t=arg max_j

终止 i_T^*=arg max_j

第二步：把T时刻的最优状态

i_T^*

，作为参数回溯寻求每一步的最优

i_t^*=arphi _{t+1}

[1] 李航.统计学习方法[M].北京：清华大学出版社，2012：155-184

[2] 如何用简单明了的方式详细阐述隐马尔可夫模型的概念？（Online）

[3] 个人经历分享：从EM算法到Baum-Welch算法（相亲记）[在线], <>

全部评论 (0)

还没有任何评论哟~

相关文章推荐

隐马尔可夫模型(HMM)详解

阅读原文 隐马尔可夫模型HiddenMarkovmodel,HMM是一种结构最简单的动态贝叶斯网的生成模型，它也是一种著名的有向图模型。它是典型的自然语言中处理标注问题的统计机器学模型，本文将重点介绍...

HMM隐马尔可夫模型详解

目录 关于什么是隐马尔可夫模型我想你看到的解释应该是酱紫的： 或者是这样子的： 一、什么是隐马尔可夫模型 二、隐马尔可夫模型要解决的问题 三、问题解决 1.概率计算问题： 2.学习问题： 3.预测问题...

隐马尔可夫模型HMM

隐马尔可夫性： 如果一个过程的“将来”仅仅依赖于“现在”，而不依赖于“过去”，则此过程具有马尔科夫性，或称此过程为马尔科夫过程。Xt+1=fXt 马尔可夫模型： 一个系统有N个状态S1,S2,…,SN...

HMM(隐马尔可夫模型)

－－－－flag:几个月之前写的了，有些表述不是很清楚，周末再重新写一遍－－－－ 这两天一直想弄清楚HMM相关的知识，包括HMM概念，是一个网络结构还是一种算法？其中相关的算法前向后向算法、viter...

隐马尔可夫模型（HMM）

一、隐马尔可夫模型（HMM）概述 1.1什么是HMM？ 隐马尔可夫模型是一种统计模型，用于描述一个系统中隐藏状态（不可直接观测）通过一系列可观测的输出（观测序列）表现出来的过程。它是马尔可夫链的扩展，...

ASR 隐马尔可夫模型（HMM）

前言 马尔可夫模型（HMM）是表达常用的数学模型，相关概念在随机过程中能学到。在语音识别（ASR）中，是基础且重要的模型之一。本篇文章主要介绍： HMM概念 前向和后向算法 维特比算法 隐马尔可夫模型...

隐马尔可夫模型python_隐马尔可夫模型HMM及Python实现

隐马尔可夫模型差不多是学习中遇到的最难的模型了，本节通过对《统计学习方法》进行学习并结合网上笔记，用Python代码实现了隐马模型观测序列的生成、前向后向算法、BaumWelch无监督训练、维特比算法...

关于HMM（隐马尔可夫模型）

什么是HMM 隐马尔可夫模型（HiddenMarkovModel，HMM）是统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程。 常见的例子 抛硬币 假设小明有两个硬币A、B，这两个硬币的正反面的...

隐马尔可夫（HMM）

隐马尔科 隐马尔可夫模型（HiddenMarkovModel，HMM）是统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程。其难点是从可观察的参数中确定该过程的隐含参数。 然后利用这些参数来作进一...

隐马尔可夫模型HMM算法详解与实践

隐马尔可夫模型HMM算法详解与实践 引言 隐马尔可夫模型HiddenMarkovModel,HMM是一种统计模型，广泛应用于语音识别、自然语言处理、生物信息学等领域。HMM能够有效地对序列数据进行建模...