條件隨機場(conditional random fields, 以下簡稱crf):是給定一組輸入隨機變數條件下另一組輸出隨機變數的條件概率分布模型,其特點是假設輸出隨機變數構成馬爾科夫隨機場。條件隨機場是一種判別式模型
crf的作用:簡單理解就是從可選的標註序列中,選擇最靠譜的乙個序列。比如一句話中有3個單詞,可選的詞性為【名詞,動詞】。當我們對這三個字標記為l1:(名詞,動詞,動詞)顯然不太靠譜,因為在乙個句子中動詞後面接動詞是說不通的。而標記為l2(名詞,動詞,名詞)是靠譜的。
下面通過bilstm+crf的列子說明一下crf的具體應用場景。
上圖中採用bio形式的序列標註。當沒有crf層的時,**出來的序列結果是無序的,而crf的作用可以從訓練資料中學習一些約束資訊。通過特徵函式得到各個序列的轉移概率,使用viterbi演算法計算分數最高的序列標籤。比如:
1.句子中第乙個詞總是以標籤「b-「 或 「o」開始,而不是「i-」
2.標籤「b-label1 i-label2 i-label3 i-…」,label1, label2, label3應該屬於同一類實體
crf、memm、hmm比較:
CRF 的簡單使用
crf 是著名的條件隨機場開源工具,也是目前綜合性能最佳的crf工具。本文簡要介紹其使用方法。a b 兩種版本打成乙個包了。二 安裝 a windows版的無須安裝,直接解壓即可使用 b linux版本的安裝方法是 i.解壓到某目錄下 ii.開啟控制台,將當前目錄切換到解壓目錄 iii.依次輸入命令...
CRF 的使用總結
英文版官網,使用手冊的感覺。2,crf 0.58.zip doc資料夾為官網位址 example為給的4個例子。實際需要的 crf learn.exe crf test.exe libcrfpp.dll三個檔案 可以先拿example中的某個例子,做一下測試。例如 example中chunking資...
CRF模型原理解析。
前置條件 概率無向圖模型 馬爾可夫性 hammersley clifford原理 統計學習方法 11.1 假設有事件x1 x2 x3,你想計算出 p x1 p x2 p x3 p x1 x2x3 p x2 x1x3 p x3 x1x2 你並不知道,x1 x2 xn之間的關係,你希望能有乙個神奇的模型...