極大似然估計:
已知x是離散型隨機變數,可能的取值有0,1, 2。對應概率為:
這裡x更具體解釋的話,可以理解為拋兩次硬幣,正面記1,反面記0,結果累加,只不過這裡的硬幣特殊,拋到反面的概率是θ。
這時對x抽取容量為10的樣本,其中有2個0、5個1、3個2,求θ的最大似然估計值。
套用大佬的總結,最大似然估計法的步驟:
1. 寫出似然函式;
2. 對似然函式取對數,並整理(注:這裡為什麼取對數呢?一是因為對數形式好求導;二是因為對數似然方程和原方程是等價的,這又為什麼是等價呢?對數函式是單調遞增的,不會改變原函式的方向,我們下一步要求極值點,所以沒有影響);
3. 求導數;
4. 解似然方程(注:這裡為什麼求導數為0的點就是最大似然估計值呢?因為l裡各項都是大於0的,相乘結果也必然大於0,所以函式極值點一定是最大值點);
最後得θ的最大似然估計值為9/20。
最大似然估計 極大似然估計
目錄最大似然估計 個人部落格 對於最大似然估計我們使用最簡單的拋硬幣問題來進行講解當我們拋一枚硬幣的時候,就可以去猜測拋硬幣的各種情況的可能性,這個可能性就稱為概率一枚質地均勻的硬幣,在不考慮其他情況下是符合二項分布的,即正面和翻面的概率都是0.5,那麼我們拋10次硬幣5次正面在上面的概率為 但是現...
極大似然估計
在機器學習的領域內,極大似然估計是最常見的引數估計的方法之一,在這裡整理一下它的基本原理。極大似然估計從根本上遵循 眼見為實,這樣的哲學思想。也就是說,它嚴格地僅僅利用了已知的實驗結果,來估計概率模型中的引數。極大似然估計的計算過程非常簡單 1.寫出似然函式 2.求出使得似然函式取最大值的引數的值,...
極大似然估計
一 理論基礎 1 引例 某位同學與一位獵人一起外出打獵,乙隻野兔從前方竄過。只聽一聲槍響,野兔應聲到下,如果要你推測,這一發命中的子彈是誰打的?你就會想,只發一槍便打中,由於獵人命中的概率一般大於這位同學命中的概率,看來這一槍是獵人射中的。這個例子所作的推斷就體現了極大似然法的基本思想。2 簡介 極...