批次歸一化（batch normalization)
尤其使用於cnn
主要作用是將資料拉回到均值為零方差為一的高斯正態模型下，以便位於啟用函式的敏感範圍。
會使用兩個引數保證其非線性能力
詳見深入理解batch normalization批標準化.這篇文章真的寫的太好了，完美的詮釋了什麼是bn，讀完這篇文關於bn的原理就清楚了。
層歸一化（layer normalization）
適用於rnn
權重歸一化（weight normalization）
組歸一化（group normalization）
個人感覺。除了批次歸一化剩下的都沒用
標準化 歸一化（二）
答一 歸一化方法 1 把數變為 0，1 之間的小數 主要是為了資料處理方便提出來的，把資料對映到0 1範圍之內處理，更加便捷快速。2 把有量綱表示式變為無量綱表示式 歸一化是一種簡化計算的方式，即將有量綱的表示式，經過變換，化為無量綱的表示式，成為純量。標準化方法 資料的標準化是將資料按比例縮放，使...
SVM 正則化，歸一化及引數的選擇
正則化 regularization 歸一化 也有稱為正規化 標準化，normalization 是對資料盡心預處理的方式，他們的目的都是為了讓資料更便於我們的計算或獲得更加泛化的結果，但並不改變問題的本質，下面對他們的作用分別做一下科普，如有不正確之處，求指正！需要注意的是，這些名詞在不同的領域含...
特徵歸一化的方法 線性歸一化 零均值歸一化
常用歸一化方法 1 線性歸一化，線性歸一化會把輸入資料都轉換到 0 1 的範圍，公式如下 該方法實現對原始資料的等比例縮放，其中xnorm為歸一化後的資料，x為原始資料，xmax xmin分別為原始資料集的最大值和最小值。優點 通過利用變數取值的最大值和最小值將原始資料轉換為界於某一特定範圍的資料，...