Advertisement

机器学习——HMM（隐马尔可夫）

阅读量：

1、请介绍一下HMM算法

HMM描述的是一个含有隐状态的马尔可夫链所生成的不可观测的状态随机序列，再由各个状态生成观测序列的过程。隐藏的马尔科夫链随机生成的状态的序列称为状态序列；每个状态生成一个观测，而由此产生的观测的随机序列，称为观测序列
常常应用在：分词，词性标注，命名实体识别

1）初始状态概率、状态转移矩阵、发射矩阵的确定

初始概率分布

z1可能是状态1，状态2 ... 状态n，于是z1就有个N点分布：

Z1 状态1 状态2 ... 状态n
概率 P1 P2 ... Pn

即：Z1对应个n维的向量。

上面这个n维的向量就是初始概率分布，记做π。

状态转移矩阵

但Z2就不能简单的“同上”完事了，因为Z2和Z1不独立，所以Z2是状态1的概率有：Z1是状态1时Z2是状态1，Z1是状态2时Z2是状态1,..., Z1是状态n时Z2是状态1，于是就是下面的表

Z2 Z1 状态1 状态2 ... 状态n
状态1 P11 P12 ... P1n
状态2 P21 P22 ... P2n
... ... ... ... ...
状态n Pn1 Pn2 ... Pnn

即：Z1->Z2对应个n*n的矩阵。

同理：Zi -> Zi+1对应个n*n的矩阵。

上面这些nn的矩阵被称为状态转移矩阵，用Ann表示。

当然了，真要说的话，Zi -> Zi+1的状态转移矩阵一定都不一样，但在实际应用中一般将这些状态转移矩阵定为同一个，即：只有一个状态转移矩阵。

图1的第一行就搞定了，下面是第二行。

观测矩阵

如果对于zi有：状态1, 状态2, ..., 状态n，那zi的每一个状态都会从下面的m个观测中产生一个：观测1, 观测2, ..., 观测m，所以有如下矩阵：

X Z 观测1 观测2 ... 观测m
状态1 P11 P12 ... P1m
状态2 P21 P22 ... P2m
... ... ... ... ...
状态n Pn1 Pn2 ... Pnm

这可以用一个nm的矩阵表示，也就是观测矩阵，记做Bnm。

由于HMM用上面的π，A，B就可以描述了，于是我们就可以说：HMM由初始概率分布π、状态转移概率分布A以及观测概率分布B确定，为了方便表达，把A, B, π 用 λ 表示，即：

λ = (A, B, π)

2)HMM的详细介绍

两个假设：

  1. 齐次马尔科夫性假设：即假设隐藏的马尔科夫链在任意时刻t的状态只依赖于其前一时刻的状态，与其他时刻的状态及观测无关，也与时刻t无关；
  2. 观测独立性假设：即假设任意时刻的观测只依赖于该时刻的马尔科夫链的状态，与其他观测即状态无关。

****

前向算法（求解概率问题）就是 计算出来i5时的概率相加就得到最终的概率

维特比算法（求解最优隐状态）（每个时刻选择概率最大的状态）

全部评论 (0)

还没有任何评论哟~

相关文章推荐

机器学习——HMM（隐马尔可夫）

1、请介绍一下HMM算法 HMM描述的是一个含有隐状态的马尔可夫链所生成的不可观测的状态随机序列，再由各个状态生成观测序列的过程。隐藏的马尔科夫链随机生成的状态的序列称为状态序列；每个状态生成一个观测...

隐马尔可夫（HMM）

隐马尔科 隐马尔可夫模型（HiddenMarkovModel，HMM）是统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程。其难点是从可观察的参数中确定该过程的隐含参数。 然后利用这些参数来作进一...

.【机器学习】隐马尔可夫模型（Hidden Markov Model，HMM）

概率图模型是一种用图形表示概率分布和条件依赖关系的数学模型。概率图模型可以分为两大类：有向图模型和无向图模型。有向图模型也叫贝叶斯网络，它用有向无环图表示变量之间的因果关系。无向图模型也叫马尔可夫网络...

机器学习 隐马尔可夫

不考计算题 Q：概率图有几种结构？条件独立性的公式？ 1.顺序结构 2.发散结构 3.汇总结构 Q:隐马尔可夫模型理解？ 概念 集合：状态集合、观测集合 序列：状态序列、观测序列 三要素：初始状态概率...

机器学习之隐马尔科夫（HMM）模型

机器学习之隐马尔科夫模型（HMM） 1、隐马尔科夫模型介绍 2、隐马尔科夫数学原理 3、Python代码实现隐马尔科夫模型 4、总结 隐马尔可夫模型介绍 马尔科夫模型（hiddenMarkovmode...

隐马尔可夫模型HMM学习笔记

参考： <https://www.cnblogs.com/pinard/p/6945257.html <https://www.cnblogs.com/pinard/p/6991852.html <h...

HMM隐马尔可夫模型学习总结

1. 介绍 1. HMM在实际应用中主要用来解决3类问题。 1.评估问题概率计算问题 即给定观测序列O=O1O2…Ot和模型参数λ=A,B,π，怎样有效计算这一观测序列出现的概率POλ 2.预测问题也...

隐马尔可夫模型HMM

隐马尔可夫性： 如果一个过程的“将来”仅仅依赖于“现在”，而不依赖于“过去”，则此过程具有马尔科夫性，或称此过程为马尔科夫过程。Xt+1=fXt 马尔可夫模型： 一个系统有N个状态S1,S2,…,SN...

HMM(隐马尔可夫模型)

－－－－flag:几个月之前写的了，有些表述不是很清楚，周末再重新写一遍－－－－ 这两天一直想弄清楚HMM相关的知识，包括HMM概念，是一个网络结构还是一种算法？其中相关的算法前向后向算法、viter...

隐马尔可夫模型（HMM）

一、隐马尔可夫模型（HMM）概述 1.1什么是HMM？ 隐马尔可夫模型是一种统计模型，用于描述一个系统中隐藏状态（不可直接观测）通过一系列可观测的输出（观测序列）表现出来的过程。它是马尔可夫链的扩展，...