隱馬爾科夫模型HMM自學(1)

2021-09-01 07:23:47 字數 2189 閱讀 1587

介紹崔曉源 翻譯

我們通常都習慣尋找乙個事物在一段時間裡的變化規律。在很多領域我們都希望找到這個規律,比如計算機中的指令順序,句子中的詞順序和語音中的詞順序等等。乙個最適用的例子就是天氣的**。

首先,本文會介紹聲稱概率模式的系統,用來**天氣的變化

然後,我們會分析這樣乙個系統,我們希望**的狀態是隱藏在表象之後的,並不是我們觀察到的現象。比如,我們會根據觀察到的植物海藻的表象來**天氣的狀態變化。

最後,我們會利用已經建立的模型解決一些實際的問題,比如根據一些列海藻的觀察記錄,分析出這幾天的天氣狀態。

generating patterns

有兩種生成模式:確定性的和非確定性的。

確定性的生成模式:就好比日常生活中的紅綠燈,我們知道每個燈的變化規律是固定的。我們可以輕鬆的根據當前的燈的狀態,判斷出下一狀態。

非確定性的生成模式:比如說天氣晴、多雲、和雨。與紅綠燈不同,我們不能確定下一時刻的天氣狀態,但是我們希望能夠生成乙個模式來得出天氣的變化規律。我們可以簡單的假設當前的天氣只與以前的天氣情況有關,這被稱為馬爾科夫假設。雖然這是乙個大概的估計,會丟失一些資訊。但是這個方法非常適於分析。

馬爾科夫過程就是當前的狀態只與前n個狀態有關。這被稱作n階馬爾科夫模型。最簡單的模型就當n=1時的一階模型。就當前的狀態只與前一狀態有關。(這裡要注意它和確定性生成模式的區別,這裡我們得到的是乙個概率模型)。下圖是所有可能的天氣轉變情況:

對於有m個狀態的一階馬爾科夫模型,共有m*m個狀態轉移。每乙個狀態轉移都有其一定的概率,我們叫做轉移概率,所有的轉移概率可以用乙個矩陣表示。在整個建模的過程中,我們假設這個轉移矩陣是不變的。

該矩陣的意義是:如果昨天是晴,那麼今天是晴的概率為0.5,多雲的概率是0.25,雨的概率是0.25。注意每一行和每一列的概率之和為1。

另外,在乙個系統開始的時候,我們需要知道乙個初始概率,稱為

到現在,我們定義了乙個一階馬爾科夫模型,包括如下概念:

狀態:晴、多雲、雨

狀態轉移概率

初始概率

馬爾科夫模型也需要改進!

崔曉源 翻譯

當乙個隱士不能通過直接觀察天氣狀態來**天氣時,但他有一些水藻。民間的傳說告訴我們水藻的狀態與天氣有一定的概率關係。也就是說,水藻的狀態與天氣時緊密相關的。此時,我們就有兩組狀態:觀察狀態(水藻的狀態)和隱含狀態(天氣狀態)。因此,我們希望得到乙個演算法可以為隱士通過水藻和馬爾科夫過程,在沒有直接觀察天氣的情況下得到天氣的變化情況。

更容易理解的乙個應用就是語音識別,我們的問題定義就是如何通過給出的語音頻號**出原來的文字資訊。在這裡,語音頻號就是觀察狀態,識別出的文字就是隱含狀態。

這裡需要注意的是,在任何一種應用中,觀察狀態的個數與隱含狀態的個數有可能不一樣的。下面我們就用隱馬爾科夫模型hmm來解決這類問題。

hmm

下圖是天氣例子中兩類狀態的轉移圖,我們假設隱狀態是由一階馬爾科夫過程描述,因此他們相互連線。

隱狀態和觀察狀態之間的連線表示:在給定的馬爾科夫過程中,乙個特定的隱狀態對應的觀察狀態的概率。我們同樣可以得到乙個矩陣:

注意每一行(隱狀態對應的所有觀察狀態)之和為1。

到此,我們可以得到hmm的所有要素:兩類狀態和三組概率

兩類狀態:觀察狀態和隱狀態;

三組概率:初始概率、狀態轉移概率和兩態對應概率(confusion matrix)

隱馬爾科夫模型HMM

我們通常都習慣尋找乙個事物在一段時間裡的變化規律。在很多領域我們都希望找到這個規律,比如計算機中的指令順序,句子中的詞順序和語音中的詞順序等等。乙個最適用的例子就是天氣的 首先,本文會介紹聲稱概率模式的系統,用來 天氣的變化 然後,我們會分析這樣乙個系統,我們希望 的狀態是隱藏在表象之後的,並不是我...

隱馬爾科夫 HMM 模型

隱馬爾科夫 hidden markov model 模型是一類基於概率統計的模型,是一種結構最簡單的動態貝葉斯網,是一種重要的有向圖模型。自上世紀80年代發展起來,在時序資料建模,例如 語音識別 文字識別 自然語言處理等領域廣泛應用。隱馬爾科夫模型涉及的變數 引數眾多,應用也很廣泛,以至於很多人不明...

HMM隱馬爾科夫模型

問題 講講hmm隱馬爾科夫模型 1 隱馬爾科夫模型是關於時序的概率模型,是由乙個隱藏的馬爾科夫鏈隨機生成不可觀測的隨機狀態序列,並由各個狀態生成乙個觀測而產生觀測隨機序列的過程。統計學習方法 cha10 概念解釋 馬爾可夫鏈 一階馬爾可夫過程,即未來狀態僅與當前狀態有關,與過去無關。馬爾可夫過程 狀...