貝葉斯公式的共軛分布

2021-07-31 17:45:34 字數 974 閱讀 1630

共軛分布是一種極大簡化貝葉斯分析的方法。其作用是,在貝葉斯公式包含多種概率分布的情況下,使這些分布的未知引數在試驗前被賦予的物理意義,延續到試驗後,便於分析。

貝葉斯公式如下:

其中,表示樣本。這裡有三個重要的概念:先驗分布似然函式,以及後驗分布

符合某種概率分布。比如說在拋硬幣之前,我們認為正反兩面出現的概率各為1/2。

的條件下,樣本資料服從這一概率模型的相似程度。

後,模型引數服從的概率分布。即,對先驗分布進行了修正,更接近真實情況。

另外,因為是樣本,所以

在貝葉斯公式中,如果先驗分布和似然函式使得後驗分布具有和先驗分布相同的形式,那麼就稱先驗分布和似然函式是共軛的

3.1 beta分布與二項分布共軛

beta概率函式如下:

其中,

3.2  dirichlet分布與多項分布共軛

beta分布擴充套件到多維是 dirichlet分布(狄利克雷分布),二項分布擴充套件到多維就是多項分布。dirichlet分布函式如下:

多項分布函式如下:

其中,k是指k維。

貝葉斯公式

貝葉斯定理由 英國數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照 乘法法則 p a b p a p b a p b p a b 可以立刻匯出 如上公式也可變形為 p b a p a b p b p a 例如 ...

貝葉斯公式

貝葉斯定理由英國 數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照乘法法則 p a b p a p b a p b p a b 可以立刻匯出 貝葉斯定理公式 p a b p b a p a p b 如上公式也可...

貝葉斯公式

是基於樸素貝葉斯定理分類器,其計算過程是在訓練階段的時候,先計算每個分類的先驗概率p a 和各個分類下面特徵屬性的條件概率p b a 的過程 反推特徵 分類的條件概率 a b 取最大概率作為分類結果。貝葉斯定理 已知a 分類 的條件概率,b 某個特徵 在a發生後的條件概率,求a在b發生後的條件概率 ...