來自
如果你讀過貝葉斯學習方面的書或者**，想必是知道共軛先驗這個名詞的。
現在假設你閉上眼睛，你能準確地說出共軛分布是指哪個分布和哪個分布式共軛的嗎？
我之前就常常把這個關係弄錯，現在記錄如下，以加強印象。
貝葉斯學派和頻率學派的區別之一是特別重視先驗資訊對於inference的影響，而引入先驗資訊的手段有「貝葉斯原則「（即把先驗資訊當著均勻分布）等四大類
其中有重要影響的一類是：共軛先驗
現在假設我們有這樣幾類概率：p(\theta)（先驗分布）, p(\theta|x)（後驗分布）, p(x), p(x|\theta) （似然函式）
它們之間的關係可以通過貝葉斯公式進行連線： 後驗分布 = 似然函式* 先驗分布/ p(x)
之所以採用共軛先驗的原因是可以使得先驗分布和後驗分布的形式相同，這樣一方面合符人的直觀（它們應該是相同形式的）另外一方面是可以形成乙個先驗鏈，即現在的後驗
分布可以作為下一次計算的先驗分布，如果形式相同，就可以形成乙個鏈條。
為了使得先驗分布和後驗分布的形式相同，我們定義：
如果先驗分布和似然函式可以使得先驗分布和後驗分布有相同的形式，那麼就稱先驗分布與似然函式是共軛的
很容易造成誤解是會以為後驗分布和先驗分布共軛或者後驗分布和似然函式共軛。
機器學習之先驗分布，後驗分布，共軛先驗分布
共軛先驗分布的提出 某觀測資料服從概率分布p 當觀測到新的資料時，思考下列問題 1.能否根據新觀測資料x更新引數 2.根據新觀測的資料可以在多大的程度上改變引數 r 3.當重新估計得到 時，給出的新引數數值 的新概率分布p x 分析 根據貝葉斯公式 p x p x p p x 其中p x 是在已知 ...
概率分布之共軛分布
共軛分布 conjugate distribution 的概率中一共涉及到三個分布 先驗 似然和後驗，如果由先驗分布和似然分布所確定的後驗分布與該先驗分布屬於同一種型別的分布，則該先驗分布為似然分布的共軛分布，也稱為共軛先驗。比較繞嘴，下面從公式來理一下思路。假設變數 x 服從分布p x 其觀測樣本...
先驗概率 後驗概率以及共軛先驗
在貝葉斯學派的觀點中，先驗概率 後驗概率以及共軛分布的概念非常重要。而在機器學習中，我們閱讀很多資料時也要頻繁地跟他們打交道。所以理清這些概念很有必要。歡迎關注白馬負金羈的部落格 為保證公式 圖表得以正確顯示，強烈建議你從該位址上檢視原版博文。本部落格主要關注方向包括 數字影象處理 演算法設計與分析...