隐马尔科夫模型HMM（二）前向后向算法评估观察序列概率

由 demi 提交于周一, 13 五月 2019 - 14:24

在<a href="http://imgtec.eetrend.com/blog/2019/100042969.html">隐马尔科夫模型HMM（一）HMM模型</a>中，我们讲到了HMM模型的基础知识和HMM的三个基本问题，本篇我们就关注于HMM第一个基本问题的解决方法，即已知模型和观测序列，求观测序列出现的概率。

1. 回顾HMM问题一：求观测序列的概率

首先我们回顾下HMM模型的问题一。这个问题是这样的。我们已知HMM模型的参数 λ = ( A , B , Π ) 。其中A是隐藏状态转移概率的矩阵，B 是观测状态生成概率的矩阵， Π是隐藏状态的初始概率分布。同时我们也已经得到了观测序列 O = { o1, o2 , ... oT }，现在我们要求观测序列 O 在模型λ下出现的条件概率 P( O | λ ) 。

乍一看，这个问题很简单。因为我们知道所有的隐藏状态之间的转移概率和所有从隐藏状态到观测状态生成概率，那么我们是可以暴力求解的。

我们可以列举出所有可能出现的长度为T的隐藏序列 I = { i1 , i2 , ... , iT }，分布求出这些隐藏序列与观测序列 O = { o1, o2 , ... oT } 的联合概率分布 P( O | λ ) ，这样我们就可以很容易的求出边缘分布 P( O | λ ) 了。

具体暴力求解的方法是这样的：首先，任意一个隐藏序列 I = { i1 , i2 , ... , iT } 出现的概率是：

对于固定的状态序列 I = { i1 , i2 , ... , iT } ，我们要求的观察序列 O = { o1, o2 , ... oT } 出现的概率是：

则 O 和 I 联合出现的概率是：

然后求边缘概率分布，即可得到观测序列 O 在模型 λ 下出现的条件概率 P( O | λ ) ：

虽然上述方法有效，但是如果我们的隐藏状态数N非常多的那就麻烦了，此时我们预测状态有 NT 种组合，算法的时间复杂度是 O(TNT) 阶的。因此对于一些隐藏状态数极少的模型，我们可以用暴力求解法来得到观测序列出现的概率，但是如果隐藏状态多，则上述算法太耗时，我们需要寻找其他简洁的算法。

前向后向算法就是来帮助我们在较低的时间复杂度情况下求解这个问题的。

2. 用前向算法求HMM观测序列的概率

前向后向算法是前向算法和后向算法的统称，这两个算法都可以用来求HMM观测序列的概率。我们先来看看前向算法是如何求解这个问题的。

前向算法本质上属于动态规划的算法，也就是我们要通过找到局部状态递推的公式，这样一步步的从子问题的最优解拓展到整个问题的最优解。

在前向算法中，通过定义“前向概率”来定义动态规划的这个局部状态。什么是前向概率呢，其实定义很简单：定义时刻t时隐藏状态为 qi，观测状态的序列为 o1, o2 , ... ot 的概率为前向概率。记为：

既然是动态规划，我们就要递推了，现在我们假设我们已经找到了在时刻t时各个隐藏状态的前向概率，现在我们需要递推出时刻 t+1 时各个隐藏状态的前向概率。

从下图可以看出，我们可以基于时刻 t 时各个隐藏状态的前向概率，再乘以对应的状态转移概率，即 αt(j)aji 就是在时刻t观测到 o1, o2 , ... ot ，并且时刻t隐藏状态 qj,时刻 t+1 隐藏状态 qi 的概率。如果将想下面所有的线对应的概率求和，即<img src="http://imgtec.eetrend.com/files/2019-05/%E5%8D%9A%E5%AE%A2/100043037-69…; alt="">就是在时刻t观测到 o1, o2 , ... ot ，并且时刻 t+1 隐藏状态 qi的概率。继续一步，由于观测状态 ot+1 只依赖于 t+1 时刻隐藏状态 qi ，这样<img src="http://imgtec.eetrend.com/files/2019-05/%E5%8D%9A%E5%AE%A2/100043037-69…; alt="">就是在在时刻 t+1 观测到 o1, o2 , ... ot ，并且时刻 t+1 隐藏状态 qi 的概率。而这个概率，恰恰就是时刻 t+1 对应的隐藏状态i的前向概率，这样我们得到了前向概率的递推关系式如下：
<center><img src="http://imgtec.eetrend.com/files/2019-05/%E5%8D%9A%E5%AE%A2/100043037-69…; alt=""></center> 
<center><img src="http://imgtec.eetrend.com/files/2019-05/%E5%8D%9A%E5%AE%A2/100043037-69…; alt=""></center>

我们的动态规划从时刻1开始，到时刻T结束，由于αT(i)表示在时刻T观测序列为 o1, o2 , ... ot ，并且时刻T隐藏状态 qi 的概率，我们只要将所有隐藏状态对应的概率相加，即<img src="http://imgtec.eetrend.com/files/2019-05/%E5%8D%9A%E5%AE%A2/100043037-69…; alt="">就得到了在时刻T观测序列为o1,o2,...oT的概率。

下面总结下前向算法。

输入：HMM模型 λ = ( A , B , Π ) ，观测序列 O = { o1, o2 , ... oT

输出：观测序列概率 P( O | λ )

1) 计算时刻1的各个隐藏状态前向概率：

2) 递推时刻2,3,...T时刻的前向概率：

3) 计算最终结果：

从递推公式可以看出，我们的算法时间复杂度是 O(TN2)，比暴力解法的时间复杂度 O(TNT)少了几个数量级。

3. HMM前向算法求解实例

这里我们用<a href="http://imgtec.eetrend.com/blog/2019/100042969.html">隐马尔科夫模型HMM（一）HMM</a>模型中盒子与球的例子来显示前向概率的计算。

我们的观察集合是：

我们的状态集合是：

而观察序列和状态序列的长度为3.

初始状态分布为：

状态转移概率分布矩阵为：

观测状态概率矩阵为：

球的颜色的观测序列:

按照我们上一节的前向算法。首先计算时刻1三个状态的前向概率：

时刻1是红色球，隐藏状态是盒子1的概率为：

隐藏状态是盒子2的概率为：

隐藏状态是盒子3的概率为：

现在我们可以开始递推了，首先递推时刻2三个状态的前向概率：

时刻2是白色球，隐藏状态是盒子1的概率为：

隐藏状态是盒子2的概率为：

隐藏状态是盒子3的概率为：

继续递推，现在我们递推时刻3三个状态的前向概率：

时刻3是红色球，隐藏状态是盒子1的概率为：

隐藏状态是盒子2的概率为：

隐藏状态是盒子3的概率为：

最终我们求出观测序列:O={红，白，红}的概率为：

4. 用后向算法求HMM观测序列的概率

熟悉了用前向算法求HMM观测序列的概率，现在我们再来看看怎么用后向算法求HMM观测序列的概率。

后向算法和前向算法非常类似，都是用的动态规划，唯一的区别是选择的局部状态不同，后向算法用的是“后向概率”，那么后向概率是如何定义的呢？

定义时刻t时隐藏状态为 qi ，从时刻 t+1 到最后时刻T的观测状态的序列为 ot+1, ot+2, ... oT 的概率为后向概率。记为：

后向概率的动态规划递推公式和前向概率是相反的。现在我们假设我们已经找到了在时刻 t+1 时各个隐藏状态的后向概率 βt+1(j)，现在我们需要递推出时刻 t 时各个隐藏状态的后向概率。如下图，我们可以计算出观测状态的序列为 ot+2, ot+3, ... oT ， t 时隐藏状态为 qi ，时刻 t+1 隐藏状态为 qj 的概率为 aijβt+1(j), 接着可以得到观测状态的序列为 ot+1, ot+2, ... oT ， t 时隐藏状态为 qi ，时刻 t+1隐藏状态为 qj 的概率为 aijbj(ot+1)βt+1(j) ，则把下面所有线对应的概率加起来，我们可以得到观测状态的序列为 ot+1, ot+2, ... oT ， t时隐藏状态为 qi 的概率为<img src="http://imgtec.eetrend.com/files/2019-05/%E5%8D%9A%E5%AE%A2/100043037-69…; alt="">，这个概率即为时刻 t 的后向概率。

这样我们得到了后向概率的递推关系式如下：

现在我们总结下后向算法的流程,注意下和前向算法的相同点和不同点：

输入：HMM模型 λ = ( A , B , Π ) ，观测序列 O = { o1, o2 , ... oT }

输出：观测序列概率 P( O | λ )

1) 初始化时刻 T 的各个隐藏状态后向概率：

2) 递推时刻 T−1 , T−2 , ... 1 时刻的后向概率：

3) 计算最终结果：

此时我们的算法时间复杂度仍然是 O(TN2)。

5. HMM常用概率的计算

利用前向概率和后向概率，我们可以计算出HMM中单个状态和两个状态的概率公式。

1）给定模型 λ 和观测序列 O ，在时刻t处于状态 qi 的概率记为:

利用前向概率和后向概率的定义可知：

于是我们得到：

2）给定模型λ和观测序列 O ，在时刻 t 处于状态 qi ，且时刻 t+1 处于状态 qj 的概率记为：

而 P ( it = qi , i qt+1 = qj , O | λ ) 可以由前向后向概率来表示为：

从而最终我们得到 ξt ( i , j ) 的表达式如下：

3) 将 γt( i ) 和 ξt ( i , j ) 在各个时刻 t 求和，可以得到：

上面这些常用的概率值在求解HMM问题二，即求解HMM模型参数的时候需要用到。我们在这个系列的第三篇来讨论求解HMM参数的问题和解法。

（欢迎转载，转载请注明出处。欢迎沟通交流： liujianping-ok@163.com）

本文转自：博客园 - <a href="http://www.cnblogs.com/pinard/p/6955871.html">刘建平Pinard</a>，转载此文目的在于传递更多信息，版权归原作者所有。