共軛分布(conjugate distribution)的概率中一共涉及到三個分布：先驗、似然和後驗，如果由先驗分布和似然分布所確定的後驗分布與該先驗分布屬於同一種型別的分布，則該先驗分布為似然分布的共軛分布，也稱為共軛先驗。
比較繞嘴，下面從公式來理一下思路。假設變數
x 服從分布p(
x|θ)
，其觀測樣本為x=
，引數θ 服從先驗分布π(
θ)。那麼後驗分布為 p(
θ|x)
=π(θ
)p(x
|θ)p
(x)
如果後驗分布p(
θ|x)
與先驗分布π(
θ)是同種型別的分布，則稱先驗分布π(
θ)為似然分布p(
x|θ)
的共軛分布。
比較常用的幾個例子有：高斯分布是高斯分布的共軛分布，beta分布是二項分布的共軛分布，dirichlet分布是多項分布的共軛分布。下面對二項分布給出證明。
假設變數x∼
bern
(x|μ
) ，其觀測樣本x=
的概率分布為二項分布，p(
x|μ)
=ckn
μk(1
−μ)n
−k，k
為正例樣本個數，假設μ∼
beta
(μ|α
,β)，那麼
μ 的後驗分布為 p(
μ|x)
∝bet
a(μ|
α,β)
p(x|
μ)∝μ
α−1(
1−μ)
β−1b
(α,β
)μk(
1−μ)
n−k∝
1b(α
+k,β
+n−k
)μα+
k−1(
1−μ)
β+n−
k−1=
beta
(μ|α
+k,β
+n−k
) 後驗分布仍為beta分布，所以，beta分布是二項分布的共軛分布。
共軛分布不僅使求後驗分布計算簡單，更重要的是保留了先驗分布的型別，使概率估計更加準確。
機器學習之先驗分布，後驗分布，共軛先驗分布
共軛先驗分布的提出 某觀測資料服從概率分布p 當觀測到新的資料時，思考下列問題 1.能否根據新觀測資料x更新引數 2.根據新觀測的資料可以在多大的程度上改變引數 r 3.當重新估計得到 時，給出的新引數數值 的新概率分布p x 分析 根據貝葉斯公式 p x p x p p x 其中p x 是在已知 ...
條件概率分布 聯合概率分布和邊緣概率分布
一.聯合概率分布 小明玩扔飛鏢，飛鏢偏離靶心是不確定的，所以適合用概率模型來描述。先已知飛鏢偏離靶心與標靶距離和風速都有關。假定標靶距離可以是10 20公尺，風速可以是1 10公尺 秒，現統計每個標靶距離 每個風速下，小明所扔飛鏢小於1厘公尺的概率。距離 公尺 風速 公尺 秒 偏離小於1厘公尺的概率...
uniform分布 概率分布
概率密度函式表示 表示乙個特定範圍的值的發生概率import numpy as np 正態分佈概率密度函式 均勻分布的概率分布函式是什麼形狀呢?在某這個範圍之外，沒有任何值，在這個範圍之內，則是一條水平直線，因為所有值出現的概率都是相同的 均勻分布圖 指數概率分布函式，其函式值以指數方式下降。指數下...