1.馬爾可夫鏈:通俗理解馬爾可夫鏈
假設乙個隨機過程中,t
nt_n
tn 時刻的狀態x
nx_n
xn的條件發布,只與其前一狀態xn−
1x_
xn−1p(x
n∣x1
,x2,
...,
xn−1
)=p(
xn∣x
n−1)
p(x_n|x_1,x_2,...,x_) = p(x_n|x_)
p(xn∣
x1,
x2,
...,
xn−1
)=p
(xn
∣xn−
1)通俗地說就是,未來的分布只取決於當前狀態,而與過去無關。
2.隱馬爾科夫演算法
一種對未知引數的馬爾科夫鏈進行建模的生成模型
3.條件隨機場
如何輕鬆愉快地理解條件隨機場(crf)?
條件隨機場是邏輯回歸的序列化版本。邏輯回歸是用於分類的對數線性模型,條件隨機場是用於序列化標註的對數線性模型。條件隨機場包含概率計算問題、學習問題和**問題三個問題:
概率計算問題:已知模型的所有引數,計算觀測序列 ? 出現的概率,常用方法:前向和後 向演算法;
學習問題:已知觀測序列 ? ,求解使得該觀測序列概率最大的模型引數,包括隱狀態序列、隱狀態間的轉移概率分布和從隱狀態到觀測狀態的概率分布,常用方法:baum-wehch 演算法;
**問題:一直模型所有引數和觀測序列 ? ,計算最可能的隱狀態序列 ? ,常用演算法:維特比演算法。
ML Day4 條件隨機場
1.馬爾科夫過程 假設乙個隨機過程中,時刻的狀態 的條件發布,只與其前一狀態 1相關 2.隱馬爾科夫演算法 隱馬爾科夫演算法是對含有未知引數 隱狀態 的馬爾可夫鏈進行建模的生成模型,在隱馬爾科夫模型中,包含隱狀態 和 觀察狀態,隱狀態 對於觀察者而言是不可見的,而觀察狀態 對於觀察者而言是可見的。隱...
機器學習演算法 Task04條件隨機場(CRF)
最近看了一些有關於crf的 基本概念懂,但是到求解的部分有些疑惑。crf問題容易構成np hard問題,求解過程還需要再學習。下面稍微介紹一些crf的學習吧,這裡前面crf內容主要參考了下面博文,講的非常好 條件隨機場 conditional random fields 是一種判別式圖模型,因為其強...
Task04條件隨機場
條件隨機場 條件隨機場是一種判別式無向圖模型。條件隨機場試圖對多個變數在給定觀測值後的條件概率進行建模。給定x x1,x 2,xn y y 1,y2 y n x x 1,x 2,dots,x n y y 1,y 2,dots,y n x x1 x2 x n y y 1 y 2 yn 均為線性鏈表示的...