大概總結：
先驗概率為p(因)
後驗概率為p（因|果）
似然估計為p（果|因）
證據為p（果）
貝葉斯公式為後驗概率=（似然估計*先驗概率）/（證據）即p（因|果）=（p（果|因）*p（因））/（p（果））
貝葉斯估計的作用是通過結果（就是觀測值x）來判斷原因（就是引數θ）的概率，會把原因的概率提高，而普通的判斷原因的概率就是先驗概率p（因）。
最大似然估計的作用是給出乙個原因（引數θ）所得到的結果（觀測值x）的概率最大即argmaxp（果|因）。
似然是一種文言文的翻譯，在現代也是可能性的意思，但是在統計學中和概率的定義是不同的。
先驗概率，似然估計和後驗概率
先驗 根據若干年的統計 經驗 或者氣候 常識 某地方下雨的概率 似然 下雨 果 的時候有烏雲 因 or 證據 or 觀察的資料 的概率，即已經有了果，對證據發生的可能性描述 後驗 根據天上有烏雲 原因或者證據 or 觀察資料 下雨 結果 的概率 後驗 先驗 似然 存在下雨的可能 先驗 下雨之前會有烏...
先驗概率 後驗概率 貝葉斯公式 似然函式
在機器學習中，這些概念總會涉及到，但從來沒有真正理解透徹他們之間的聯絡。下面打算好好從頭捋一下這些概念，備忘。先驗概率僅僅依賴於主觀上的經驗估計，也就是事先根據已有的知識的推斷，先驗概率就是沒有經過實驗驗證的概率，根據已知進行的主觀臆測。如拋一枚硬幣，在拋之前，主觀推斷p 正面朝上 0.5。後驗概率...
先驗概率 後驗概率 似然函式
以下以因果關係來刻畫先驗概率 後驗概率以及似然概率的關係。先驗概率 根據經驗得到的結果的概率 已知結果 後驗概率 在知道原因的情況下，求結果發生的概率 執因求果 似然概率 知道結果的情況下，求最可能導致結果發生的原因 知果求因 舉個例子 已知車禍有一定概率會導致堵車，此處車禍是因，堵車是果。p 堵車...