在之前的文章中，已经分别介绍了隐马科夫模型（HMM）的概况以及HMM中广泛应用的一种解决估值问题的算法：前向法(Forward Algorithm)。在本文将介绍解决HMM另外一个问题 – 解码问题 – 的算法：维特比算法(Viterbi Agorithm)，也属于HMM中的一个基本算法，而且算法本身很像Forward的这个概念，理解起来相对容易。

本文目录：

• Page 1: 前文提要
• Page 2: 一般算法与高效维的特比算法
• Page 3: 实例与伪代码
• Page 4: 参考资料

Last Modified：2010/12/25 16:57 All rights reserved.

前文提要：

在之前的HMM文章中提到，HMM模型将涉及到3个问题：

1. 给定一个观察到得序列O，及参数，求出，即发生这种观察序列的可能性。对应上面例子中，即是我给定一个最终确定了的水果序列S，求我选到这样的水果的可能性。
2. 给定一个观察到的序列O，及参数，求出最有可能产生这种序列的状态序列S。对应上面例子中，即我给定一个最终确定了的水果序列S，求我最可能的选水果筐路径。
3. 同样给定一个观察得到的序列O，求如何调整参数，使最大。

对于问题1，我们已经讨论过Forward Algorithm并成功高效地解决了这个问题。接下来我们将讨论解决平时称为“解码问题”的问题二的解决方法。

在问题二中，对应选水果的例子，我们需要解决的问题是，当我们知道最后选出来的水果序列，以及框选水果(Emission Matrix)、框转框(Transition Matrix)这两个概率，求可能选出这种水果序列的框路径。

* 在讨论这个问题之前，可以先复习一下之前的前向法，因为整体思路跟前向法类似。

在假期的前几天颓废了好一阵之后，终于重新拾起未完成的事情。根据计划是按照HMM -> MEM -> CRF -> hCRF 这个伟大目标前进的。HMM已经在之前写了一个文章(惊喜地发现在google里面搜“HMM模型”，它出现在了第一页 )，这里写的是HMM中，解决第一个问题，即估值问题的一个快速算法 – 前向法(Forward Agorithm)。过几天还会陆续完全弄懂、写好Viterbi与Baum-Welch算法。

本文目录：

• Page 1: 前文提要
• Page 2: 普通的穷举算法
• Page 3: 可行的替代算法 – 前向法
• Page 4: 参考书目

Last Modified：2010/08/29 23:40 All rights reserved.

前文提要：

在之前的HMM文章中提到，HMM模型将涉及到3个问题：

1. 给定一个观察到得序列O，及参数，求出，即发生这种观察序列的可能性。对应上面例子中，即是我给定一个最终确定了的水果序列S，求我选到这样的水果的可能性。
2. 给定一个观察到的序列O，及参数，求出最有可能产生这种序列的状态序列S。对应上面例子中，即我给定一个最终确定了的水果序列S，求我最可能的选水果筐路径。
3. 同样给定一个观察得到的序列O，求如何调整参数，使最大。

这里讨论的将会是第一个问题，即所谓的估值问题。

再次，在问题一中我们的目标是求出可见序列O在参数集(包含Transition Matrix、Emission Matrix、N、M、Pi)中的发生概率，即求，请着眼于这个概率，以下将以作为主角。

(请留意换页… Next Page »)

HMM已经有很多人研究过了，而我要研究它的目的只是为了那个让我我纠结多天的Hidden-state Variable。说起这个Hidden-state Variable，真是惭愧，应该是我很笨或者很懒的问题，从JMLMIL理论开始，我就一直开始搞不懂Hidden-state Variable究竟是怎么样来的，虽然我知道它的物理意义和怎么使用。可能很多人看论文都会有这样的感觉吧，即使当你清楚了某个东西的框架，也认同这个框架，但是当你细细深入并打算实现的时候，才会发现现实跟框架是有很多差距的啊！

不好意思，扯远了。我从JMLMIL开始追寻这个Hidden-state variable，到HCRF，到CRF，到HMM。而如今对HMM的理解算是对这个Hidden-state Variable的理解的一个开始吧。当我完全搞懂这个Hidden的东西之后，我会详细的把这些东西都串起来。现在，先看看HMM吧。

隐马科夫(HMM)模型全称：Hidden Markov model，是一种统计学的模型，是马科夫链与无法观察的状态的结合。在这里，我假设看这篇文章的人已经对马科夫过程(Markov Process)有了初步的认识，对概率论有过初步的学习。

用一句话描述马科夫过程，就是后一个事件发生的概率只与当前时间发生的概率相关。在下面的图里面，我们可以清楚看到”马科夫过程”这一属性，注箭头意x(t-1), x(t), x(t+1)之间的的指向，就用这个箭头表示他们之间的关系，这个箭头是单向的，对于t这一个时间的状态x(t)，只有t-1时刻的状态x(t-1)指向它，说明影响t时刻的状态x(t)的，只有t-1时刻的状态x(t-1)。

Hmm temporal bayesian net

那么这个HMM模型，隐马模型到底“隐”在哪里呢？其实解释起来也不难，这里…t-1, t, t+1…各个时刻的x状态是一个随机过程，试想一下，你总不能确定一个随机过程中的每个状态吧？所以，上图的x状态对于我们来说，在没有到达t时间之前，他仍然是未知的，隐藏的（Hidden）。这些x被称为“unobserved state”。

Turn to the next page for more.

了解了这个“隐”的概念之后，我们可以深入HMM的一个整体结构和过程了。

为了更好理解，我引用一个实例来说明HMM的结构和过程。

假设我们有5个筐装着很多不同水果，水果的种类有6种（下图中用不同颜色的图案表示）。

HMM模型的实例_01

HMM过程是，我从任意一个筐开始选水果，我去到那一个框那里，随机拿起里面的一个水果，然后把这个水果记录下来，然后再随机地去另外一个筐里面选水果，不断地重复这个过程，知道我选够了L个水果，我就停止。

在我选水果的过程中，我将遵循以下准则：

• 我从某一个框选完水果后移到另外一个框的概率用一个 Transition-probabilty Matrix来表示。

筐     |     筐	1	2	3	4	5
1	0.5	0.1	0.2	0.2	0
2	0.3	0.4	0.1	0.1	0.1
3	0.1	0.5	0.1	0	0.3
4	0.3	0.3	0.2	0.1	0.1
5	0	0.1	0.2	0.1	0.6

• 而我从第i个框中选6仲水果中的概率也用一定的概率分布表示，称为这个框中水果的概率分布(Emission-probability Matrix)。（以下概率值省略）

筐   |   水果	1	2	3	4	5	6
1	…
2		…
3			….
4				…
5					…	….

• 我们还必须牢记一点，因为下一次转移到哪一个框是不确定的，所以当我还没选够水果的之前，你还是不会准确得知我的路径的。我选的水果你也将不会准确得知。

实例的一个结果是这样的： 我选完水果之后，发现我的路径是[筐2>筐1>筐1>筐5>筐2>筐3>筐4]，即我选了7个水果，L=7。而我最终选出来的水果依次是[f2, f1, f3, f5, f5, f2, f4]。

之前已经假设过大家已经了解了一点Markov process和随机过程，所以这里你们应该会很自然地想到其实这个HMM就是这两个过程的结合：

[Markov process：选框] > [普通随机过程：选水果]；

假设我们的模型参数是 lambda(N, M, pi, A, B);

• L: 将会观察的长度。对应上面例子中的我将要选取的水果个数。
• N: 状态数目。对应上面例子中，水果筐的个数。
• M:每个状态可能的观察值数。对应上面例子中，水果的种类。
• pi: 初始状态空间的分布。对应上面例子中，哪个水果筐将会成为我选的第一个筐的概率。
• A: 代表状态转移矩阵(Transition-probability matrix)。对应上面例子中，我从某个筐移到另外一个筐的概率。
• B: 代表观察值的概率分布(Emission-probability matrix)。对应上面例子中，某个筐中，水果的分布概率。

状态的序列标记为S。对应上面例子中，我最终选筐的移动路径[筐2>筐1>筐1>筐5>筐2>筐3>筐4]。

观察到的序列标记为O。对应上面例子中，我最终选出来的水果序列[f2> f1> f3> f5> f5> f2> f4]。

HMM将涉及以下三个问题：

1. 给定一个观察到得序列O，及参数lambda，求出P(O|lambda)，即发生这种观察序列的可能性。对应上面例子中，即是我给定一个最终确定了的水果序列S，求我选到这样的水果的可能性。
2. 给定一个观察到的序列O，及参数lambda，求出最有可能产生这种序列的状态序列S。对应上面例子中，即我给定一个最终确定了的水果序列S，求我最可能的选水果筐路径。
3. 同样给定一个观察得到的序列O，求如何调整参数lambda，使P(O|lambda)最大。

由于涉及具体算法和论证，这里不再详述这三个问题的解决算法。只简单地标出：

1. 问题一的一种有效解决算法是前向法(forward algorithm)，是一种动态规划的方法，用来减少程序运算的复杂度。
2. 问题二的一种有效解决算法是维特比算法(Viterbi algorithm)，也是一种动态的规划方法，用来找出最可能的状态路径。
3. 问题三的一种有效解决算法是Baum-Welch算法，通过给定一个O，不断估算一个适合的lambda参数，使发生这个O的概率P(O|lambda)最大。