全概公式和貝葉斯公式的理解:首先,理解這兩個公式的前提是理解條件概率,因此先複習條件概率。
p(a|b)=p(ab)p(b)
理解這個可以從兩個角度來看。
第乙個角度:在b發生的基礎上,a發生的概率。那麼b發生這件事已經是個基礎的條件了,現在進入b已經發生的世界,看看a發生的概率是多少。那麼分子就是b發生a也發生,分母就是b這個世界發生的概率了。分母如果是1,那麼成了什麼意思呢?
另乙個角度是看韋恩圖。這裡a在b發生的基礎上發生的概率是a和b交集的陰影部分面積占用b的比例。
那麼由條件概率出發,看一下變形出來的乘法公式:
p(ab)=p(a)?p(b|a)=p(b)?p(a|b)
也可以提供上面的兩個角度來理解這個公式,雖然可以由上面的直接推導,但是我們認為這是問題的思考的不同角度,不僅僅是公式之間的運算。
一:ab同時發生的概率是在a基礎上發生b的概率乘以a本身在外部發生的概率,也是b基礎上發生a的概率乘以b本身在外部發生的概率.
二:ab表示的是陰影部分的面積占用a或者b的比例關係。
僅僅從形式上說,豎線後面的要在前面多乘以乙個以達到平衡。
全概率然後再看全概率公式。
乙個別人舉的例子:
乙個村子與三個小偷,小偷偷村子的事件兩兩互斥,求村子被偷的概率。
解釋:假設這三個小偷編號為a1,a2,a2;
偷東西的事件標記為b,不偷的話標記為:bˉˉˉ
那麼被偷的概率就是:要麼是a1,要麼是a2,要麼是a3,
如果是a1, 概率是什麼呢?首先得是a1,其次是村子被偷,也即是兩個事件都滿足,所以是p(a1b)
同理,可以得到p(a2b),p(a3b)
又因這三個小偷兩兩互斥,表示不會同時去偷。所以被偷的概率是:
p(b)=p(a1b)+p(a2b)+p(a3b)
當然按照條件概率或者乘法公式展開:
p(b)=p(a1)p(b|a1)+p(a2)p(b|a2)+p(a3)p(b|a3)(*)
ps:p(ai),p(b|ai)是已知的
問:是不是有想展開為:
p(b)=p(b)p(a1|b)+p(b)p(a1|b)+p(b)p(a1|b)的衝動?
當然這個式子是沒錯的,但是體現不了這個問題的解法:分階段。
(*)式子體現的是問題分為兩個階段:
1)選人,分割問題
2)計算分割的子問題的條件概率
對應的這裡來便是:
1)選小偷,誰去偷
2)選定的小偷作為條件,那麼他去偷的條件概率是什麼
所以將問題拆解為階段的問題便是全概率公式針對的問題。
貝葉斯公式
貝葉斯公式有意思極了,簡單說就是逆全概公式。
前面是問總體看來被偷的概率是多少,現在是知道了總體被偷了這件事,概率並不知道,問你個更有意思的問題,像是偵探斷案:是哪個小偷的偷的,計算每個小偷偷的概率。
這個特性用在機器學習,人工智慧領域相當好用。
也就是求:p(ai|b)=p(aib)p(b)
ai:小偷i幹的;b:村子被偷了
首先是乙個淳樸的條件概率的展開。
分母裡出現了p(b),剛剛討論的全概公式拿來用一用!
而p(aib)=p(ai)?p(b|ai)
對應到上面的例子就鮮活一些:村子被偷了,求ai偷的概率。
自然現在條件是p(b),分子變形為p(aib)=p(ai)?p(b|ai),是因為假定就是ai偷的,這是乙個已知的概率。
分母p(b)=∑ni=1p(ai)p(b|ai)
除了上面的思路外,通常需要注意的是分階段意味著時間的先後。在先進行的事件的基礎上進行後面的事件,就很容易計算概率:p(ab)=p(a)p(b|a)這種。
所以當我們需要計算先驗概率,即先發生的時間的概率時,總是想著用上面的這個型別來計算,且是通過條件概率進行過渡。
全概公式和貝葉斯公式的理解
條件概率 首先,理解這兩個公式的前提是理解條件概率,因此先複習條件概率。p a b p ab p b 理解這個可以從兩個角度來看。第乙個角度 在b發生的基礎上,a發生的概率。那麼b發生這件事已經是個基礎的條件了,現在進入b已經發生的世界,看看a發生的概率是多少。那麼分子就是b發生a也發生,分母就是b...
全概率公式和貝葉斯公式
一 概念回顧 1.若事件a1,a2,an構成乙個完備事件組且都有正概率,則對任意乙個事件b,有公式 p b p a1 p b a1 p a2 p b a2 p a3 p b a3 p an p b an 即 此公式即為全概率公式。2.事件a1,a2,an構成乙個完備事件組且都有正概率,則貝葉斯公式為...
理解全概率公式與貝葉斯公式
在概率論與數理統計中,有兩個相當重要的公式 全概率公式與貝葉斯公式。然而很多人對這兩個公式感到非常迷茫。一來不知道公式背後的意義所在,二來不知道這些冰冷的公式能有什麼現實應用。在講全概率公式之前,首先要理解什麼是 完備事件群 我們將滿足 bibj i j b1 b2 role presentatio...