以下以因果關係來刻畫先驗概率、後驗概率以及似然概率的關係。
先驗概率：根據經驗得到的結果的概率（已知結果）；
後驗概率：在知道原因的情況下，求結果發生的概率（執因求果）；
似然概率：知道結果的情況下，求最可能導致結果發生的原因（知果求因）；
舉個例子：
已知車禍有一定概率會導致堵車，此處車禍是因，堵車是果。
p(堵車) 是先驗概率。
p(堵車|車禍)是後驗概率。
我們有以下三個隨機事件
a 警察查酒駕
b 下班高峰
c 車禍
三個事件都會導致堵車，在已知堵車的情況下，哪個事件最可能發生，即是極大似然估計，即求 argmax(p(a|堵車)，p(b|堵車)，p(c|堵車))。argmax返回a,b,c三者中使得概率最大的事件。
先驗——根據若干年的統計（經驗）或者氣候（常識），某地方下雨的概率；
似然——下雨（果）的時候有烏雲（因 or 證據 or 觀察的資料）的概率，即已經有了果，對證據發生的可能性描述；
後驗——根據天上有烏雲（原因或者證據 or 觀察資料），下雨（結果）的概率；後驗 ~ 先驗*似然 ： 存在下雨的可能（先驗），下雨之前會有烏雲（似然）~ 通過現在有烏雲推斷下雨概率（後驗）；
最大似然估計：在已知模型和取樣樣本的情況下，求得模型的引數，使得該模型能最好的符合樣本情況。最大似然估計只考慮某個模型能產生某個給定觀察序列的概率。而未考慮該模型本身的概率。這點與貝葉斯估計有區別。
map與mle最大區別是map中加入了模型引數本身的概率分布，或者說。mle中認為模型引數本身的概率的是均勻的，即該概率為乙個固定值。
關於最大似然估計和最大後驗估計可以參照以下部落格：
先驗概率 似然函式與後驗概率
先驗概率 prior probability 在貝葉斯統計中，先驗概率分布，即關於某個變數 p 的概率分布，是在獲得某些資訊或者依據前，對 p 的不確定性進行猜測。例如，p 可以是搶火車票開始時，搶到某一車次的概率。這是對不確定性 而不是隨機性 賦予乙個量化的數值的表徵，這個量化數值可以是乙個引數，...
先驗概率 似然函式與後驗概率
先驗概率 prior probability 在貝葉斯統計中，先驗概率分布，即關於某個變數 p 的概率分布，是在獲得某些資訊或者依據前，對 p 的不確定性進行猜測。例如，p 可以是搶火車票開始時，搶到某一車次的概率。這是對不確定性 而不是隨機性 賦予乙個量化的數值的表徵，這個量化數值可以是乙個引數，...
先驗概率 似然函式與後驗概率
先驗概率 prior probability 在貝葉斯統計中，先驗概率分布，即關於某個變數 p 的概率分布，是在獲得某些資訊或者依據前，對 p 的不確定性進行猜測。例如，p 可以是搶火車票開始時，搶到某一車次的概率。這是對不確定性 而不是隨機性 賦予乙個量化的數值的表徵，這個量化數值可以是乙個引數，...