朋友圈發了不少關於貝葉斯公式的豪言壯語了，終於也算到了週末，應該簡單總結一下了。本文不是專業的數學**，跟原來一樣，主要還是以科普為目的，最終讓我們認識到利用貝葉斯公式的思維方式，可以帶來什麼不同。
先給出貝葉斯公式的通常寫法(即教科書寫法)：p(
a|b)
=p(a
)×p(
b|a)
p(b)
為了理解它，需要理解很多的概念，最後過了一段時間可能還是記不住…
然而，如果我們將貝葉斯公式換乙個寫法，其中代表的含義以及如何使用它就令人恍然大悟了。
曾經很多人對貝葉斯公式給出的解釋是，先根據經驗拍乙個先驗概率，然後再逐步根據實際觀測的結果對先驗概率進行微調。寫法如下所示：p(
a|b)
=p(a
)×p(
b|a)
p(b)
其中，可以將p(
b|a)
p(b)
設為u ，這樣就成了：p(
a|b)
=p(a
)×u
如果u>
1 ，則增加事件發生的概率，如果
u<
1 ，則降低相應的概率。那麼u
代表什麼含義呢？其實
u就是根據實際資訊生成的乙個微調槓桿，隨著實驗次數的增加，它會不斷的增強或者否認先驗結論p(
a)。值得品味的是，這就是我們人類的思維方式！我們對待任何事物，幾乎都是按照這種方式進行的，首先憑直覺對事物有個大概的印象，然後根據後續發生的一系列事件對這個初始印象進行修正，雖然最終我們可能依然是在盲人摸象，但至少是在不斷逼近真理。
以上是貝葉斯公式蘊含的生活哲學。
我不知道之前有沒有這種解釋，我是沒有看到。這個解釋是我在下班的班車上突然想到的，覺得不錯，就即時總結下來，寫成這篇文章。
貝葉斯公式的兩邊同時乘以p(
b)，得到以下的等式：p(
a|b)
×p(b
)=p(
b|a)
×p(a
) 嗯，就是它！
我先來解釋一下p(
a|b)
×p(b
) 的含義。
兩個概率相乘，並不總要理解成兩個事件同時發生的概率，其實從其字面意義理解更簡單。這裡先從全概率公式說起。先看下全概率公式：p(
b)=∑
i=1n
p(b|
ai)p
(ai)
公式本身很簡單，關鍵是如何來理解它。其實，關鍵就是如何理解每乙個乘積p(
b|ai
)p(a
i)，它代表什麼。我這裡給出乙個解釋：
全概率p(b
) 其實是乙個數學期望，它表示事件b發生的概率的期望，假設引起事件b的前因有
i 個，分別是a0
到ai ，那麼事件
b 的發生的概率就成了事件ai
的概率組合，它的期望自然而然就是每個原因導致
b 發生的概率，乘以每個原因的概率之和
(這乙個解釋和資訊熵的期望的解釋是一樣的)。
請注意，上述解釋中，ai
是原因，而b是結果。理解了這個全概率公式裡關於條件概率乘積的解釋，我們就可以理解上述的貝葉斯公式的變形了。
我們先來看式子的左邊p(
a|b)
×p(b
) ，其中p(
a|b)
代表假定事件b發生的前提下，事件a發生的概率，乘以p(
b)表示上述假定確實發生的概率，這裡
b 是因，
a是果。
再看右邊p(
b|a)
×p(a
) ，不用再重複上段的解釋，最終，
a 是因，
b是果！然而這二者卻是相等的。這意味著什麼？！
這意味著事件的發生關於時間是對稱的！如果你相信數學，那麼我們的宇宙關於時間的演化就是對稱的！沒有什麼因果區分，如果
a 發生於
b之前，那麼如果時間倒過來的話，
b 顯然發生在
a之前，它們的概率竟然是一樣的！
這很有意思！單憑這個式子，即使是上帝也無法確定時間流逝的方向：
這到底是宿命論，還是因果論的崩塌！
只是把貝葉斯公式做了乙個最簡單的移項處理，竟然可以得到這麼乙個結論，我本來是相信自由意志的，但是這個式子明顯表示因果和果因根本就是一一對應的，這是注定的，難道是數學錯了？除非概率論本身的根基就是錯的，不然這一定是乙個真理，就算沒有貝葉斯，相信隨便乙個人也會很快得出相應的結論：
我們從最基本的開始： p(
a|b)
×p(b
)=p(
a⋂b)
p(b|a
)×p(
a)=p
(a⋂b
)
所以就有：p(
a|b)
×p(b
)=p(
b|a)
×p(a
)
這難道不是顯然的嗎？即便沒有貝葉斯，這也是顯然的。然而這式子本身並不重要，重要的是這表達了一種全新的解答問題的方式，和本文第一種解釋完全契合。
執果溯因這種方**意義上的指示不是形而上的，而是物質的，是客觀的真理！
幾乎所有人的一生都是不斷事件的結果尋找原因的過程，我記得我女兒小小小時候學說話的時候，從來都是不斷模仿而不管其什麼含義，其它的行為也是不斷試錯，從周圍的人的反饋來獲取資訊，然後就知道了自己這麼做是對還是錯，是該加強還是該削減。
拋開個人不談，幾萬年甚至幾十萬年前的原始野人，在沒有任何可供現成學習的經驗的前提下，也是靠不斷的運用貝葉斯公式來逐漸逼近事物真實的原因的，當原因猜到他們認為**不離十正確的時候，他們便可以運用這個判斷去指導一些自由的行為了，這正是文明最終產生的根本源動力，搞了半天原來就是乙個貝葉斯公式！
也許現在你應該明白為什麼ai領域的機器學習中貝葉斯這個名字如此普遍存在了吧，難道原始野人的進化過程不就跟機器學習的過程很類似嗎？
…
貝葉斯公式的理解
推導過程 1 條件概率公式 設a,b是兩個事件，且p b 0,則在事件b發生的條件下，事件a發生的條件概率 conditional probability 為 p a b p ab p b 2 乘法公式 1.由條件概率公式得 p ab p a b p b p b a p a 上式即為乘法公式 2.乘...
貝葉斯公式的理解
最近在學粒子濾波，然後複習了以下貝葉斯公式，看到了乙個關於貝葉斯推理的例子，比較有意思，推理的題目是 好人or壞人 b想去旅行，需要找一名隊友，於是發帖找人，立馬有人a自告奮勇。但是網路真真假假，b不知道a是好人還是壞人，會不會在旅途中坑自己一把，讓他遭受危險。於是他對a說，要不我們先旅行一段路程，...
貝葉斯公式的共軛分布
共軛分布是一種極大簡化貝葉斯分析的方法。其作用是，在貝葉斯公式包含多種概率分布的情況下，使這些分布的未知引數在試驗前被賦予的物理意義，延續到試驗後，便於分析。貝葉斯公式如下 其中，表示樣本。這裡有三個重要的概念 先驗分布 似然函式，以及後驗分布。符合某種概率分布。比如說在拋硬幣之前，我們認為正反兩面...