1、離散馬爾科夫過程
該過程的特點是當前的狀態僅僅與它之前的乙個狀態有關。
狀態轉移概率有兩個屬性，大於零，轉移矩陣的每乙個橫行加一起來和為1.
2、隱馬爾科夫要素
五元組：兩個模型引數和三個概率矩陣。
n: 模型中狀態數
m：輸出字元的個數
a：狀態轉移概率分布
b：觀察字元在狀態j時的概率分布
π：初始狀態分布
3、forward-backward演算法
給定乙個模型λ和乙個觀察序列，計算模型產生這個觀察序列的概率
最直接的方法列舉長度為t,狀態數為n ，列舉的計算量為2t乘n的t次方，
利用該演算法後計算量為n的平方乘t.
條件隨機場
模型是指數函式形式，最後求的是特徵在整個序列的權重，因此是全域性解。而最大熵只是求當前狀態的輸出解，是區域性解，因此有標記偏置的問題。條件隨機場源自圖模型的概念，序列標註使用的是一階煉表。整個圖的聯合概率就是每個團的概率乘積，每個團的概率又可以表示成狀態函式和條件轉移函式的乘積。優化目標是條件隨機場...
條件隨機場
概率圖模型是由圖表示的概率分布。概率無向圖模型又稱馬爾可夫隨機場 markov random field 表示乙個聯合概率分布，其標準定義為 設有聯合概率分布 p v 由無向圖 g v,e 表示，圖 g 中的節點表示隨機變數，邊表示隨機變數間的依賴關係。如果聯合概率分布 p v 滿足成對 區域性或全...
條件隨機場CRF
條件隨機場 crf 是給定一組輸入隨機變數x的條件下另一組輸出隨機變數y的條件概率分布模型，其特點是假設輸出隨機變數構成馬爾科夫隨機場。實際上是定義在時序資料上的對數線性模型。條件隨機場屬於判別模型。概率圖模型是由無向圖表示的聯合概率分布，概率無向圖模型的最大特點是易於因子分解。團 無向圖g中任何兩...