根據抽樣分布確定整體分布，已經知道了結果，然後尋求使該結果出現的可能性最大的條件，以此作為估計值。
抽到100個男生：我們就只需要找到乙個引數 θ，其對應的似然函式l(θ) 最大，也就是說抽到這 100 個男生（的身高）概率最大。這個叫做 θ 的最大似然估計量
每個樣本抽到的概率p（x|0）,抽到n個
最大似然估計量：
求最大似然函式估計值的一般步驟：
（1）寫出似然函式；
（2）對似然函式取對數，並整理；
（3）求導數，令導數為0，得到似然方程；
（4）解似然方程，得到的引數即為所求
em演算法就是這樣，假設我們想估計知道 a 和 b 兩個引數，在開始狀態下二者都是未知的，但如果知道了 a 的資訊就可以得到 b 的資訊，反過來知道了 b 也就得到了 a。可以考慮首先賦予 a 某種初值，以此得到 b 的估計值，然後從 b 的當前值出發，重新估計 a 的取值，這個過程一直持續到收斂為止。
先隨機選擇標準分配-計算概率-不合適調整標準
似然函式多了乙個未知標準z
jensen不等式
如果f是凸函式，x是隨機變數，那麼：e[f(x)]>=f(e[x])
應用於凹函式時，不等號方向反向
em的演算法流程：
迭代演算法實際上是em演算法：最大期望演算法
根據引數初始值或上一次迭代的模型引數來計算出隱性變數的後驗概率，其實就是隱性變數的期望。
極大似然估計 EM演算法
極大似然估計，是一種概率論在統計學的應用，它是引數估計的方法之一 mpa，貝葉斯估計 已知某個隨機樣本滿足某種概率分布，但是其中具體的引數不清楚，引數估計就是想通過若干次試驗，觀察其結果，利用結果推出引數的大概值。最大似然估計也是建立在這樣的思想上 已知某個引數能使這個樣本出現的概率最大，我們當然不...
最大似然估計 極大似然估計
目錄最大似然估計 個人部落格 對於最大似然估計我們使用最簡單的拋硬幣問題來進行講解當我們拋一枚硬幣的時候,就可以去猜測拋硬幣的各種情況的可能性,這個可能性就稱為概率一枚質地均勻的硬幣,在不考慮其他情況下是符合二項分布的,即正面和翻面的概率都是0.5,那麼我們拋10次硬幣5次正面在上面的概率為 但是現...
極大似然估計和最大似然估計定義
最近看樸素貝葉斯法，發現有關於極大似然估計部分，網上找了好久，感覺也都說不清。然後還有個最大似然估計，最要命的是我發現還有人專門對兩者區別做了論述。然後我就看了下英文定義 最大似然估計 maximum likelihood estimation,mle 極大似然估計方法 maximum likeli...