hinton和ranzato最新的文章中用到了mrf馬爾科夫隨機場。
一篇部落格
無向圖模型（undirected graphical model），又可稱為馬爾可夫隨機場（markov random field），是乙個可以由無向圖表示的聯合概率分布。
設有聯合概率分布\(p(x)\)，\(x \subset \mathcal\)是一組隨機變數，由無向圖\(g = (v,e)\)表示，即在圖\(g\)中，結點\(v \in v\)表示隨機變數\(x_v\)，\(x = \_\)，邊\(e \in e\)表示隨機變數之間的依賴關係。下面定義無向圖表示的隨機變數之間存在的成對馬爾可夫性（pairwise markov property）、區域性馬爾可夫性（local markov property）和全域性馬爾可夫性（global markov property）。
成對馬爾可夫性：設\(u\)和\(v\)是無向圖\(g\)中任意兩個沒有邊連線的結點，分別對應隨機變數\(x_u\)和\(x_v\)。其他所有結點記為\(o\)，對應隨機變數組\(x_o\)。成對馬爾可夫性是指給定\(x_o\)的條件下，隨機變數\(x_u\)和\(x_v\)是條件獨立的，即
[p(x_u, x_v | x_o) = p(x_u | x_o)p(x_v|x_o)
]區域性馬爾可夫性：設\(v \in v\)是無向圖\(g\)中任意乙個結點，\(w\)是與\(v\)由邊連線的所有結點，\(o\)是\(v,w\)以外的所有結點，\(v\)表示隨機變數\(x_v\)，\(w\)表示隨機變數組\(x_w\)，\(o\)表示隨機變數組\(x_o\)。區域性馬爾可夫性是指在給定隨機變數組\(x_w\)的條件下，隨機變數\(x_v\)與隨機變數組\(x_o\)是條件獨立的，即
[p(x_v,x_o|x_w) = p(x_v|x_w)p(x_o|x_w)
]在\(p(x_o|x_w) > 0\)時，等價的，
[p(x_v|x_w) = p(x_v|x_w,x_o)
]全域性馬爾可夫性：設結點集合\(a\)、\(b\)是在無向圖\(g\)中被結點集合\(c\)分開的任意點集合，\(a\)、\(b\)和\(c\)分別對應隨機變數組\(x_a\)、\(x_b\) 和\(x_c\)。全域性馬爾可夫性是指給定隨機變數組\(x_c\)的條件下，隨機變數組\(x_a\)和\(x_b\)是條件獨立的，即
[p(x_a,x_b|x_c) = p(x_a|x_c)p(x_b|x_c)
]上述成對的、區域性的、全域性的馬爾可夫性定義是等價的。\cite
限制玻爾茲曼機（restricted boltzmann machine）是一種關於可視層\(v\)和隱藏層\(h\)的，成對的馬爾可夫隨機場。它定義的聯合分布滿足
[p(h,v|\theta) = \frac \prod_^i \prod_^j \psi_(v_i, h_j ; \theta)
]
馬爾科夫隨機場（MRF）與條件隨機場（CRF）
條件隨機場 conditional random fields 是一種判別式圖模型，因為其強大的表達能力和出色的效能，得到了廣泛的應用。從最通用角度來看，crf本質上是給定了觀察值集合 observations 的馬爾可夫隨機場。在這裡，我們直接從最通用的角度來認識和理解 crf，最後可以看到，線性...
馬爾科夫隨機場
馬爾可夫鏈因安德烈 馬爾可夫 andrey markov，1856 1922 得名，是數學中具有馬爾可夫性質的離散時間隨機過程。該過程中，在給定當前知識或資訊的情況下，過去 即當期以前的歷史狀態 對於 將來 即當期以後的未來狀態 是無關的。時間和狀態都是離散的馬爾可夫過程稱為馬爾可夫鏈,簡記為 馬爾...
馬爾科夫隨機場的基本概念
1 隨機過程 描述某個空間上粒子的隨機運動過程的一種方法。它是一連串隨機事件動態關係的定量描述。隨機過程與其它數學分支，如微分方程 復變函式等有密切聯絡，是自然科學 工程科學及社會科學等領域研究隨機現象的重要工具。2 馬爾科夫隨機過程 是隨機過程的一種，其原始模型為馬爾科夫鏈，由 數學家馬爾科夫於1...