1、寫出似然函式：聯合概率分布
2、似然函式處理：比如取對數
3、獲得似然方程：求導數，令導數=0
4、解似然方程，獲得模型引數。
ps：回顧神經網路中loss function的定義，一般都是-log(loss)形式的函式，實際上也是對訓練樣本進行了極大似然估計，只不過求解引數的方式不能是令導數=0，只能通過求偏導，然後梯度下降來近似求的最優解或者區域性最優解。同時，由於loss一般是大於1的數值，因此會在log前面加負號。
參考《統計學習方法》--李航--第九章
極大似然估計和貝葉斯估計
假設 存在乙個先驗分布g 那麼 的後驗分布為 f x g f x g d 最大後驗概率估計 即為 後驗概率分布的眾數 m ap x ar gmax f x g 可以看做正則化的最大似然估計，當g是常數時兩者等價 極大似然估計和貝葉斯估計分別代表了頻率派和貝葉斯派的觀點。頻率派認為，引數是客觀存在的，...
極大似然估計和貝葉斯估計
序言 然後根據資料來求出這個 而貝葉斯估計的難點在於p p 需要人為設定，之後再考慮結合map map maximum a posterior 方法來求乙個具體的 所以極大似然估計與貝葉斯估計最大的不同就在於是否考慮了先驗，而兩者適用範圍也變成了 極大似然估計適用於資料大量，估計的引數能夠較好的反映...
極大似然估計與貝葉斯估計
貝葉斯估計與極大似然估計在思想上有很大的不同，代表著統計學中貝葉斯學派和頻率學派對統計的不同認識。極大似然估計是頻率學派觀點，它的觀點可以這樣理解 待估計引數 theta 是客觀存在的，只是未知而已，已知觀測樣本 d dd，求得 hat 使得在 theta hat 時，產生觀測樣本資料 d dd 的...