hitao
計算機研究僧，運動愛好者
240 人贊同了該回答
這個是quora上的乙個回答 what is the difference between probability and likelihood?
2我們可以做乙個模擬，假設乙個函式為
如果你令b=2，這樣你就得到了乙個關於a的二次函式，即
當你令a=2時，你將得到乙個關於b的指數函式，即
可以看到這兩個函式有著不同的名字，卻源於同乙個函式。
而p(x|θ)也是乙個有著兩個變數的函式。如果，你將θ設為常量，則你會得到乙個概率函式（關於x的函式）；如果，你將x設為常量你將得到似然函式（關於θ的函式）。
下面舉乙個例子：
有乙個硬幣，它有θ的概率會正面向上，有1-θ的概率反面向上。θ是存在的，但是你不知道它是多少。為了獲得θ的值，你做了乙個實驗：將硬幣拋10次，得到了乙個正反序列：x=hhtththhhh。
無論θ的值是多少，這個序列的概率值為 θ⋅θ⋅(1-θ)⋅(1-θ)⋅θ⋅(1-θ)⋅θ⋅θ⋅θ⋅θ = θ⁷ (1-θ)³
比如，如果θ值為0，則得到這個序列的概率值為0。如果θ值為1/2，概率值為1/1024。
但是，我們應該得到乙個更大的概率值，所以我們嘗試了所有θ可取的值，畫出了下圖：
這個曲線就是θ的似然函式，通過了解在某一假設下，已知資料發生的可能性，來評價哪乙個假設更接近θ的真實值。
如圖所示，最有可能的假設是在θ=0.7的時候取到。但是，你無須得出最終的結論θ=0.7。事實上，根據貝葉斯法則，0.7是乙個不太可能的取值（如果你知道幾乎所有的硬幣都是均質的，那麼這個實驗並沒有提供足夠的證據來說服你，它是均質的）。但是，0.7卻是最大似然估計的取值。
因為這裡僅僅試驗了一次，得到的樣本太少，所以最終求出的最大似然值偏差較大，如果經過多次試驗，擴充樣本空間，則最終求得的最大似然估計將接近真實值0.5。在這篇部落格中有詳細的過程，就不再贅述。
編輯於 2018-08-16
已贊同 240分享
收藏喜歡
收起
切換為時間排序
發布
對數似然函式理解
對數似然函式 log likelihood 機器學習裡面，對模型的訓練都是對loss function進行優化，在分類問題中，我們一般使用最大似然估計 maximum likelihood estimation 來構造損失函式。對於輸入的x，其對應的類標籤為t，我們的目的是找到使p t x 最大的模...
對似然函式的理解
一直對貝葉斯裡面的似然函式 likelihood function 先驗概率 prior 後驗概率 posterior 理解得不是很好，今天彷彿有了新的理解，記錄一下。看 的時候讀到這樣一句話 原來只關注公式，所以一帶而過。再重新看這個公式前的描述，細思極恐。the likelihood funct...
極大似然估計 乾貨分享 如何理解極大似然估計？
相信大家平時的學習中經常會遇到極大似然估計這種方法，那麼極大似然估計原理到底是什麼，有什麼優勢？將通過以下內容為您解讀。極大似然估計是什麼 極大似然估計最初有c.f.gauss提出，但直至1922年，r.a.fisher在他的 中再次提到了極大似然估計這個概念，並給出了相應的性質時，使得極大似然估計...