貝葉斯公式

貝葉斯定理由英國

數學家貝葉斯 ( thomas bayes 1702-1763 ) 發展，用來描述兩個條件

概率之間的關係，比如 p(a|b) 和 p(b|a)。按照乘法法則：p(a∩b)=p(a)*p(b|a)=p(b)*p(a|b)，可以立刻匯出

貝葉斯定理公式：p(a|b)=p(b|a)*p(a)/p(b)

如上公式也可變形為：p(b|a)=p(a|b)*p(b)/p(a)

貝葉斯公式

例如：一座別墅在過去的 20 年裡一共發生過 2 次被盜，別墅的主人有一條狗，狗平均每週晚上叫 3 次，在盜賊入侵時狗叫的概率被估計為 0.9，問題是：在狗叫的時候發生入侵的概率是多少？

我們假設 a

事件為狗在晚上叫，b 為盜賊入侵，則 p(a) = 3 / 7，p(b)=2/(20·365)=2/7300，p(a | b) = 0.9，按照公式很容易得出結果：p(b|a)=0.9*(2/7300)*(7/3)=0.00058

另乙個例子，現分別有 a，b 兩個容器，在容器 a 裡分別有 7 個紅球和 3 個

白球，在容器 b 裡有 1 個紅球和 9 個白球，現已知從這兩個容器裡任意抽出了乙個球，且是紅球，問這個紅球是來自容器 a 的概率是多少?

假設已經抽出紅球為事件 b，從容器 a 裡抽出球為事件 a，則有：p(b) = 8 / 20，p(a) = 1 / 2，p(b | a) = 7 / 10，按照公式，則有：p(a|b)=(7 / 10)*(1 / 2)*(20/8)=7/8

貝葉斯公式為利用蒐集到的資訊對原有判斷進行修正提供了有效手段。在取樣之前，經濟主體對各種假設有乙個判斷（

先驗概率

），關於先驗概率的分布，通常可根據經濟主體的經驗判斷確定(當無任何資訊時，一般假設各先驗概率相同)，較複雜精確的可利用包括最大熵技術或邊際分布密度以及相互資訊原理等方法來確定先驗概率分布。

通常，事件a在事件b(發生)的條件下的概率，與事件b在事件a的條件下的概率是不一樣的；然而，這兩者是有確定的關係,貝葉斯法則就是這種關係的陳述。

作為乙個規範的原理，貝葉斯法則對於所有概率的解釋是有效的；然而，頻率主義者和貝葉斯主義者對於在應用中概率如何被賦值有著不同的看法：頻率主義者根據

隨機事件

發生的頻率，或者總體樣本裡面的個數來賦值概率；貝葉斯主義者要根據未知的命題來賦值概率。乙個結果就是，貝葉斯主義者有更多的機會使用貝葉斯法則。

貝葉斯法則是關於隨機事件a和b的

條件概率

和邊緣概率的。

bayes'law

其中l(a|b)是在b發生的情況下a發生的可能性。

在貝葉斯法則中，每個名詞都有約定俗成的名稱：

pr(a)是a的先驗概率或邊緣概率。之所以稱為"先驗"是因為它不考慮任何b方面的因素。

pr(a|b)是已知b發生後a的條件概率，也由於得自b的取值而被稱作a的

後驗概率

。pr(b|a)是已知a發生後b的條件概率，也由於得自a的取值而被稱作b的後驗概率。

pr(b)是b的先驗概率或邊緣概率，也作標準化常量（normalized constant）。

按這些術語，bayes法則可表述為：

後驗概率 = (相似度 * 先驗概率)/標準化常量　也就是說，後驗概率與先驗概率和相似度的乘積成正比。

另外，比例pr(b|a)/pr(b)也有時被稱作標準相似度（standardised likelihood），bayes法則可表述為：

後驗概率 = 標準相似度 * 先驗概率

貝葉斯定理由英國數學家貝葉斯 thomas bayes 1702 1763 發展，用來描述兩個條件概率之間的關係，比如 p a b 和 p b a 按照乘法法則 p a b p a p b a p b p a b 可以立刻匯出如上公式也可變形為 p b a p a b p b p a 例如 ...

是基於樸素貝葉斯定理分類器，其計算過程是在訓練階段的時候，先計算每個分類的先驗概率p a 和各個分類下面特徵屬性的條件概率p b a 的過程反推特徵分類的條件概率 a b 取最大概率作為分類結果。貝葉斯定理已知a 分類的條件概率，b 某個特徵在a發生後的條件概率，求a在b發生後的條件概率 ...

先驗概率根據以往的經驗和分析得到的概率後驗概率在考慮了乙個事實之後的條件概率貝葉斯公式就是先驗概率和後驗概率的關係。關於貝葉斯公式的推導 ab同時發生可以有兩種考慮在a發生的前提下b也發生了在b發生的前提下a也發生了 p ab p a p b a p b p a b 這裡p a p ...