樣本空間:-->乙個試驗所有可能結果的集合,用 ω 表示。所以p(ω) = 1
事件:樣本空間的乙個子集。用a、b、c表示。
其實p(a|b)與p(ab)很相似,即「a和b都會發生」。
我們換一句話來解釋這個p(ab):「在所有可能的結果下,a和b都發生的概率」。而這個「所有可能的結果的概率」就是樣本空間的概率,也就是1。
用條件概率來表示就是
p(ab) = p(ab) / p(ω)
即:p(ab) = p(ab) / 1
而p(a|b)則有稍許的不同,雖然還是p(a)和p(b)都會發生,但給出了乙個大前提「b事件發生的前提下,a和b都發生的概率(表面上是a發生,其實是a和b都發生,因為p(ab)和p(a|b)在發生數量上沒有區別,僅僅是p(a|b)加了個先後順序)」,所以條件概率的分母變成了p(b)
即:p(a|b) = p(ab)/p(b)
首先要有乙個樣本空間集合(如圖中的s),我們後面的所有概率事件都要在這個樣本空間裡。
然後我們將整個樣本空間劃分成n個子集(也可說n塊空間,如圖中的b1~bn),這n個子集共同可以構成乙個樣本空間s,每個子集都可以看成乙個單獨事件,這n個事件我們可以稱之為「完備事件組」。
我們的任意乙個事件,必然在樣本空間裡(如圖中的紅色圓圈),如圖所示,這個任意事件肯定會和
完備事件組中的各個事件「或多或少的產生交集」。
我們假設中間的任意事件概率為p(a)
我們可以通過將a與所有的完備事件「相交的部分」相加而找出p(a).
這些相交的部分自然就是:p(ab1),p(ab2)·······p(abn)
即:p(a) = p(ab1) + p(ab2) + ······· + p(abn)
根據條件概率可知p(ab) = p(a|b)p(b) = p(b|a)p(a)
所以可將公式轉化成p(a) = p(a|b1) p(b1)+ p(a|b2) p(b2)+ ······· + p(a|bn)p(bn)
即:上面這個就是全概率公式。
由此可見,用全概率公式的前提是:
我們要求任意事件p(a),
在我們知道完備事件組中各事件與a事件的交集概率的情況下,我們將事件a拆成所有交集的和。
貝葉斯公式核心是,知道某一條件概率後,找出這個條件發生的原因。
這麼說可能抽象了點。
舉個栗子:我們知道了b發生後a發生的概率p(a|b),由此我們可以用貝葉斯公式推出a發生後b發生的概率。
貝葉斯公式可以根據條件概率和全概率公式推導出來。
在推導之前有幾個提前假設:
1、ai概率事件是某乙個完備概率組中的事件,該完備事件組有n個事件,ai是其中乙個。1<=i<=n(如a事件與非a事件,這兩事件就能構成乙個完備事件組)
推導過程如下:
根據條件概率有:
原式 =p(ai|b) = p(aib) / p(b)
將b事件與a事件所屬的完備概率組做全概率公式後,將p(b)展開得:
原式 =p(ai|b) = p(aib) / ( p(b|a1)p(a1) + p(b|a2)p(a2) +······+p(b|an)p(an) )
此時我們可看出,我們求的是p(ai|b),而分母已經全被我們轉化成了p(b|a)的條件。
接下來我們利用條件概率將分子也轉化成p(b|a)的條件樣式
即:p(ab) = p(a|b)p(b) = p(b|a)p(a)
所以繼續轉化原式分子得:
原式 =p(ai|b) = p(b|ai)p(ai) / ( p(b|a1)p(a1) + p(b|a2)p(a2) +······+p(b|an)p(an) )
最後這個公式就是貝葉斯公式
全概率公式 貝葉斯公式推導過程
1 條件概率公式 設a,b是兩個事件,且p b 0,則在事件b發生的條件下,事件a發生的條件概率 conditional probability 為 p a b p ab p b 2 乘法公式 1.由條件概率公式得 p ab p a b p b p b a p a 上式即為乘法公式 2.乘法公式的推...
全概率公式 貝葉斯公式推導過程
1 條件概率公式 設a,b是兩個事件,且p b 0,則在事件b發生的條件下,事件a發生的條件概率 conditional probability 為 p a b p ab p b 2 乘法公式 1.由條件概率公式得 p ab p a b p b p b a p a 上式即為乘法公式 2.乘法公式的推...
貝葉斯公式
貝葉斯定理由 英國數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照 乘法法則 p a b p a p b a p b p a b 可以立刻匯出 如上公式也可變形為 p b a p a b p b p a 例如 ...