一、理論基礎 1
、引例
某位同學與一位獵人一起外出打獵，乙隻野兔從前方竄過。只聽一聲槍響，野兔應聲到下，如果要你推測，這一發命中的子彈是誰打的？你就會想，只發一槍便打中，由於獵人命中的概率一般大於這位同學命中的概率，看來這一槍是獵人射中的。
這個例子所作的推斷就體現了極大似然法的基本思想。 2
、簡介
極大似然估計是一種在總體概率密度函式和樣本資訊的基礎上，求解模型中未知引數估值的方法。它基於總體的概率密度函式，構造乙個包含未知引數的似然函式，並求解在似然函式值最大時未知引數的估計值。該原則下得到的模型將保證樣本出現的概率最大。因此似然函式值實際上也是一種概率值，反應了在所估計引數的總體中，抽到樣本的可能性，當然越接近於
1越好，似然函式值在
0~1之間。
極大似然估計，是一種概率論在統計學的應用，它是引數估計的方法之一。說的是已知某個隨機樣本滿足某種概率分布，但是其中具體的引數不清楚，引數估計就是通過若干次試驗，觀察其結果，利用結果推出引數的大概值。極大似然估計是建立在這樣的思想上：已知某個引數能使這個樣本出現的概率最大，我們當然不會再去選擇其他小概率的樣本，所以乾脆就把這個引數作為估計的真實值。
3、發明人
極大似然估計方法是求估計的一種方法（其它幾種方法是：
矩估計法、最小二乘法估計、最大似然估計法、貝葉斯估計法），
1821
年首先由德國數學家
c. f. gauss
（高斯）提出，但是這個方法通常被歸功於英國的統計學家
r. a. fisher
（羅納德
·費希爾），他在
1922
年的**
on themathematical foundations of theoretical statistics, reprinted in contributionsto mathematical statistics (by r. a. fisher), 1950, j. wiley & sons, newyork
中再次提出了這個思想，並且首先**了這種方法的一些性質。極大似然估計這一名稱也是費希爾給的。
使得概率 達到最大的引數 ，作為 的估計值，即取 使得： ， 與 有關，記為 ，作為 的最大似然估計量。
4、求解步驟
求極大似然函式估計值的一般步驟： （
1）寫出似然函式；
（2）對似然函式取對數； （
3）將對數似然函式對各引數求偏導數並令其為零，得對數似然方程組。若總體分布中只有乙個未知引數，則為乙個方程，稱對數似然方程；
（4）從方程組中解出。 5
、區間估計
當然極大似然估計只是一種粗略的數學期望，要知道它的誤差大小還要做區間估計。
二、資料探勘中應用
1、邏輯回歸。邏輯回歸方程的引數求解採用極大似然估計
2、後續再補充
最大似然估計 極大似然估計
目錄最大似然估計 個人部落格 對於最大似然估計我們使用最簡單的拋硬幣問題來進行講解當我們拋一枚硬幣的時候,就可以去猜測拋硬幣的各種情況的可能性,這個可能性就稱為概率一枚質地均勻的硬幣,在不考慮其他情況下是符合二項分布的,即正面和翻面的概率都是0.5,那麼我們拋10次硬幣5次正面在上面的概率為 但是現...
極大似然估計
在機器學習的領域內，極大似然估計是最常見的引數估計的方法之一，在這裡整理一下它的基本原理。極大似然估計從根本上遵循 眼見為實，這樣的哲學思想。也就是說，它嚴格地僅僅利用了已知的實驗結果，來估計概率模型中的引數。極大似然估計的計算過程非常簡單 1.寫出似然函式 2.求出使得似然函式取最大值的引數的值，...
極大似然估計
現實情況中我們可能會遇到這樣的一些例子，需要得到一所高校有車學生的分布情況 假定符合引數為p的伯努利分布 某地區成年男性的身高分布情況 假定符合引數為u1，1的正態分佈 南極洲成年帝企鵝的體重分布 假定符合引數為u2，2的正態分佈 等等。由於時間和經費的限制，不可能進行全面統計，我們只能通過一定的觀...