七
25
五、前向算法（Forward Algorithm）
前向算法定义（Forward algorithm definition）
我们使用前向算法计算T长观察序列的概率:
其中y的每一个是观察集合之一。局部（中间）概率(
‘s)是递归计算的，首先通过计算t=1时刻所有状态的局部概率：
然后在每个时间点，t=2，… ，T时，对于每个状态的局部概率，由下式计算局部概率:
也就是当前状态相应的观察概率与所有到达该状态的路径概率之积，其递归地利用了上一个时间点已经计算好的一些值。
最后，给定HMM,
,观察序列的概率等于T时刻所有局部概率之和：
再重复说明一下，每一个局部概率（t > 2 时）都由前一时刻的结果计算得出。
对于“天气”那个例子，下面的图表显示了t = 2为状态为多云时局部概率的计算过程。这是相应的观察概率b与前一时刻的局部概率与状态转移概率a相乘后的总和再求积的结果：
（注：本图及维特比算法4中的相似图存在问题，具体请见文后评论，非常感谢读者YaseenTA的指正）
总结（Summary）
我们使用前向算法来计算给定隐马尔科夫模型（HMM）后的一个观察序列的概率。它在计算中利用递归避免对网格所有路径进行穷举计算。
给定这种算法，可以直接用来确定对于已知的一个观察序列，在一些隐马尔科夫模型（HMMs）中哪一个HMM最好的描述了它——先用前向算法评估每一个（HMM），再选取其中概率最高的一个。
未完待续：前向算法4
本文翻译自：http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/html_dev/main.html
部分翻译参考：隐马尔科夫模型HMM自学
转载请注明出处“我爱自然语言处理”：www.52nlp.cn
本文链接地址：http://www.52nlp.cn/hmm-learn-best-practices-five-forward-algorithm-3
相关文章:
- HMM学习最佳范例五：前向算法1
- HMM学习最佳范例五：前向算法2
- HMM学习最佳范例五：前向算法4
- HMM学习最佳范例四：隐马尔科夫模型
- HMM学习最佳范例五：前向算法5
- HMM学习最佳范例六：维特比算法5
- HMM学习最佳范例七：前向-后向算法1
- HMM学习最佳范例六：维特比算法4
- HMM学习最佳范例八：总结
- HMM学习最佳范例七：前向-后向算法4
评论
4条回复 to “HMM学习最佳范例五：前向算法3”
发表评论
订阅52nlp：
这个图里面
http://www.52nlp.cn/images/example.forward.gif (原文里面的图)
t=1，Rainy状态那一部分有错误吧？
应该是
α1( r )= πr *brw
就是括号里面(r)还有cw应该是rw
[回复]
52nlp 回复:
四月 5th, 2010 at 22:28
不好意思，这两天出游晚上刚回来。
应该是你所写的这个公式，我摘录的原文公式，没有仔细看，谢谢。
[回复]
YaseenTA 回复:
四月 6th, 2010 at 13:00
还有一个地方 Cloudy 应该是α1( c )= 而不是 α1( r )=
同样这些错误也在http://www.52nlp.cn/images/example.viterbi.gif
[回复]
52nlp 回复:
四月 6th, 2010 at 18:55
非常感谢，已在相关图下做了注明！