HMM(隱馬爾科夫模型)學習一

2021-07-31 15:51:13 字數 986 閱讀 7417

由於需要,最近需要學習下中文自然語言處理,先從最基本的隱馬爾可夫模型學習。

一.介紹

在海邊,通常我們可以通過觀察海藻的狀態(濕潤/乾燥)來**第二天的天氣,但是,這種**並不是肯定的,比如濕潤並不代表一定有雨,乾燥也並不代表一定天晴,這些都是由一定概率的。同時,我們得出的天氣結論是通過海藻這個條件間接得到的。這種推斷是基於概率、間接得出結論的。

二.生成模型

(1)確定性模式

在介紹中提到,海藻的狀態和天氣之間的聯絡是基於一定概率的,如果這個概率是1,那麼可以認為是是確定性模型,比如我們通常情況下遇到的交通燈(黃\綠\紅三色),每乙個顏色總和前面乙個顏色確定相關,因此交通燈狀態的生成可以認為是乙個確定性模式。

(2)非確定性模式

假設天氣有多雲\晴\雨天等狀態,那麼每一天的天氣並不能由前一天的天氣唯一確定,比如昨天是大晴天,我們只能說今天有較高概率(比如60%)是晴天,因此這種生成模型是非確定模式。

通常情況下,我們可以根據經驗係數(個人覺得比較重要)來確定各個狀態之間的轉換概率,比如多雲\晴\雨天三個,可以由以下轉換概率矩陣表示他們之間的關係:

截自:一般情況下,根據以上矩陣和昨天的天氣我們可以計算出今天的天氣情況分布,但是前提是我們需要給出昨天的天氣情況,這稱為初始化概率向量,比如昨天是晴天,則初始化概率向量pi為(1.0,0.0,0.0),則用pi乘以轉移概率矩陣,就可以得到今天的天氣狀況概率為(0.5,0.375,0.125)。

注意:不要別介紹帶偏了,個人覺得這裡的生成模式均是幾個狀態之間的轉換,並未考慮間接的條件轉換。同時需要注意的時,在整個馬爾科夫模型生命週期中,狀態轉移矩陣並不產生變化,因為這是根據先驗知識得出的。

隱馬爾科夫模型HMM

我們通常都習慣尋找乙個事物在一段時間裡的變化規律。在很多領域我們都希望找到這個規律,比如計算機中的指令順序,句子中的詞順序和語音中的詞順序等等。乙個最適用的例子就是天氣的 首先,本文會介紹聲稱概率模式的系統,用來 天氣的變化 然後,我們會分析這樣乙個系統,我們希望 的狀態是隱藏在表象之後的,並不是我...

隱馬爾科夫 HMM 模型

隱馬爾科夫 hidden markov model 模型是一類基於概率統計的模型,是一種結構最簡單的動態貝葉斯網,是一種重要的有向圖模型。自上世紀80年代發展起來,在時序資料建模,例如 語音識別 文字識別 自然語言處理等領域廣泛應用。隱馬爾科夫模型涉及的變數 引數眾多,應用也很廣泛,以至於很多人不明...

HMM隱馬爾科夫模型

問題 講講hmm隱馬爾科夫模型 1 隱馬爾科夫模型是關於時序的概率模型,是由乙個隱藏的馬爾科夫鏈隨機生成不可觀測的隨機狀態序列,並由各個狀態生成乙個觀測而產生觀測隨機序列的過程。統計學習方法 cha10 概念解釋 馬爾可夫鏈 一階馬爾可夫過程,即未來狀態僅與當前狀態有關,與過去無關。馬爾可夫過程 狀...