隐马尔可夫模型

Dear 丶 2022-05-21 09:20 229阅读 0赞

## [数学之美之隐马尔可夫模型][Link 1] ##

刚开始学习此类知识，好多模型、算法都还待了解，看到google研究员的数学之美系列有不少模型算法介绍，拿来摘下，虽然没有自己的东西，但是希望能自己能在这里留的时间长一点，21天可以一个习惯，权当开个头，希望今后能有自己的东西。

原文：[数学之美 系列一 -- 统计语言模型][_ --]，[数学之美 系列三 -- 隐含马尔可夫模型在语言处理中的应用][_ -- 1]

## 1.马尔可夫模型的假设 ##

如果 S 表示一连串特定顺序排列的词 w1， w2，…， wn ，换句话说，S 可以表示某一个由一连串特定顺序排练的词而组成的一个有意义的句子。现在，机器对语言的识别从某种角度来说，就是想知道S在文本中出现的可能性，也就是数学上所说的S 的概率用 P(S) 来表示。利用条件概率的公式，S 这个序列出现的概率等于每一个词出现的概率相乘，于是P(S) 可展开为：  
  
P(S) = P(w1)P(w2|w1)P(w3| w1 w2)…P(wn|w1 w2…wn-1)  
  
其中 P (w1) 表示第一个词w1 出现的概率；P (w2|w1) 是在已知第一个词的前提下，第二个词出现的概率；以次类推。不难看出，到了词wn，它的出现概率取决于它前面所有词。从计算上来看，各种可能性太多，无法实现。因此我们假定任意一个词wi的出现概率只同它前面的词 wi-1 有关(即马尔可夫假设），于是问题就变得很简单了。现在，S 出现的概率就变为：  
  
P(S) = P(w1)P(w2|w1)P(w3|w2)…P(wi|wi-1)…  
(当然，也可以假设一个词又前面N-1个词决定，模型稍微复杂些。）  
  
接下来的问题就是如何估计 P (wi|wi-1)。现在有了大量机读文本后，这个问题变得很简单，只要数一数这对词（wi-1,wi) 在统计的文本中出现了多少次，以及 wi-1 本身在同样的文本中前后相邻出现了多少次，然后用两个数一除就可以了,P(wi|wi-1) = P(wi-1,wi)/ P (wi-1)。

## 2.隐马尔可夫模型在语言处理中的应用 ##

其中 s1，s2，s3...表示信息源发出的信号。o1, o2, o3 ... 是接受器接收到的信号。通信中的解码就是根据接收到的信号 o1, o2, o3 ...还原出发送的信号 s1，s2，s3...。

语音识别为例，当我们观测到语音信号 o1,o2,o3 时，我们要根据这组信号推测出发送的句子 s1,s2,s3。显然，我们应该在所有可能的句子中找最有可能性的一个。用数学语言来描述，就是在已知 o1,o2,o3,...的情况下，求使得条件概率  
P (s1,s2,s3,...|o1,o2,o3....) 达到最大值的那个句子 s1,s2,s3,...  
  
当然，上面的概率不容易直接求出，于是我们可以间接地计算它。利用贝叶斯公式并且省掉一个常数项，可以把上述公式等价变换成  
  
P(o1,o2,o3,...|s1,s2,s3....) \* P(s1,s2,s3,...)  
其中  
P(o1,o2,o3,...|s1,s2,s3....) 表示某句话 s1,s2,s3...被读成 o1,o2,o3,...的可能性, 而  
P(s1,s2,s3,...) 表示字串 s1,s2,s3,...本身能够成为一个合乎情理的句子的可能性，所以这个公式的意义是用发送信号为 s1,s2,s3...这个数列的可能性乘以 s1,s2,s3...本身可以一个句子的可能性，得出概率。  
  
（读者读到这里也许会问，你现在是不是把问题变得更复杂了，因为公式越写越长了。别着急，我们现在就来简化这个问题。）我们在这里做两个假设：  
  
第一，s1,s2,s3,... 是一个马尔可夫链，也就是说，si 只由 si-1 决定，见1；  
第二， 第 i 时刻的接收信号 oi 只由发送信号 si 决定（又称为独立输出假设, 即 P(o1,o2,o3,...|s1,s2,s3....) = P(o1|s1) \* P(o2|s2)\*P(o3|s3)...。  
那么我们就可以很容易利用算法 Viterbi 找出上面式子的最大值，进而找出要识别的句子 s1,s2,s3,...。  
  
满足上述两个假设的模型就叫隐含马尔可夫模型。我们之所以用“隐含”这个词，是因为状态 s1,s2,s3,...是无法直接观测到的。  
  
隐含马尔可夫模型的应用远不只在语音识别中。在上面的公式中，如果我们把 s1,s2,s3,...当成中文，把 o1,o2,o3,...当成对应的英文，那么我们就能利用这个模型解决机器翻译问题； 如果我们把 o1,o2,o3,...当成扫描文字得到的图像特征，就能利用这个模型解决印刷体和手写体的识别。

P (o1,o2,o3,...|s1,s2,s3....) 根据应用的不同而又不同的名称，在语音识别中它被称为“声学模型” (Acoustic Model)， 在机器翻译中是“翻译模型” (Translation Model) 而在拼写校正中是“纠错模型” (Correction Model)。 而P (s1,s2,s3,...) 就是我们在系列一中提到的语言模型。

关于隐马尔可夫模型的详细**生动**介绍见[http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/html\_dev/main.html][http_www.comp.leeds.ac.uk_roger_HiddenMarkovModels_html_dev_main.html]

转自：[http://www.cnblogs.com/haoqingchuan/articles/2348021.html][Link 1]

[Link 1]: http://www.cnblogs.com/haoqingchuan/articles/2348021.html
[_ --]: http://www.google.com.hk/ggblog/googlechinablog/2006/04/blog-post_7327.html
[_ -- 1]: http://www.google.com.hk/ggblog/googlechinablog/2006/04/blog-post_1583.html
[http_www.comp.leeds.ac.uk_roger_HiddenMarkovModels_html_dev_main.html]: http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/html_dev/main.html