機器學習 大數定律，中心極限定律 極大似然估計

大數定律

當資料量很大的時候可以用頻率表示概率，

在試驗不變的條件下，重複試驗多次，隨機事件的頻率近似於它的概率。偶然中包含著某種必然。

中心極限定理

樣本的平均值約等於總體的平均值。

不管總體是什麼分布，任意乙個總體的樣本平均值都會圍繞在總體的整體平均值周圍，並且呈正態分佈。

除以n和n-1  中心極限定理

一.中心極限定理

下圖形象的說明了中心極限定理

當樣本量n逐漸趨於無窮大時，n個抽樣樣本的均值的頻數逐漸趨於正態分佈，其對原總體的分布不做任何要求，意味著無論總體是什麼分布，其抽樣樣本的均值的頻數的分布都隨著抽樣數的增多而趨於正態分佈，如上圖，這個正態分佈的u會越來越逼近總體均值，並且其方差滿足a^2/n，a為總體的標準差，注意抽樣樣本要多次抽取，乙個容量為n的抽樣樣本是無法構成分布的。

二.中心極限定理和大數定律的區別

下面援引一段知乎上的回答：

機器學習 大數定律，中心極限定律 極大似然估計

大數定律 當資料量很大的時候可以用頻率表示概率，在試驗不變的條件下，重複試驗多次，隨機事件的頻率近似於它的概率。偶然中包含著某種必然。中心極限定理 樣本的平均值約等於總體的平均值。不管總體是什麼分布，任意乙個總體的樣本平均值都會圍繞在總體的整體平均值周圍，並且呈正態分佈。除以n和n 1 中心極限定理...

中心極限定理和大數定律

1.任何乙個樣本的平均值將會約等於其所在總體的平均值 2.不管總體是什麼分布，任意乙個總體的樣本平均值都會圍繞在總體的平均值周圍，並呈正態分佈。作用 1.在沒有辦法得到總體全部資料的情況下，我們可以用樣本來估計總體 例如 美國 民意調查 2.根據總體的平均值和標準差，判斷某個某個樣本是否總體。3 準...

大數定律及中心極限定理

表示試驗次數無窮大時，樣本均值就等於總體均值。x 1,x 2,x 3,是相互獨立，服從期望 e x k mu 分布的隨機變數，則對於任意 epsilon 0 有 displaystyle lim p left sum limits x k mu right epsilon right 1 是辛欽大數...