1.交叉熵損失函式
理解交叉熵函式在神經網路中的作用
2.平方差損失函式
平方差損失函式和交叉熵損失函式的比較
3.對數損失函式
對數損失函式和平方差函式
4.絕對值誤差
這個概念就比較簡單了，就是**值和真實值差值的絕對值，當然，為了評估**的準確程度，當然絕對值越小越好。
5.0-1損失函式
0-1損失函式，主要思想就是，如果**的標籤和真實標籤相同，那末損失函式就為0，不相同時，損失函式為1。可以看出，該條件非常苛刻，以至於在實際中很難達到要求，因此，出現了乙個魯棒性比較好的改進版。改進版的0-1函式通過設定絕對差值範圍 t 來限制0或1。當**的標籤值和真實標籤差值的絕對值小於t時，則認為二者相同，此時的損失函式為0；當**的標籤值和真實標籤差值的絕對值大於t時，則認為二者不同，此時的損失函式為1。
深度學習中的損失函式
利用深度學習模型解決有監督問題時，如分類，回歸，去噪等，一般思路如下 1 資訊流forward，直到輸出端 2 定義損失函式l x,y theta 3 誤差訊號backpagation 利用鏈式法則，求l x，y theta 關於theta的梯度 4 利用最優化方法 例如隨機梯度下降 進行引數更新 ...
深度學習損失函式
在利用深度學習模型解決有監督問題時，比如分類 回歸 去噪等，我們一般的思路如下 在第2步中，我們通常會見到多種損失函式的定義方法，常見的有均方誤差 error of mean square 最大似然誤差 maximum likelihood estimate 最大後驗概率 maximum poste...
深度學習 損失函式
深度學習中損失函式是整個網路模型的 指揮棒 通過對 樣本和真實樣本標記產生的誤差反向傳播指導網路引數學習。分類任務的損失函式 假設某分類任務共有n個訓練樣本，針對網路最後分層第 i 個樣本的輸入特徵為 xixi 其對應的標記為yiyi是最終的分類結果 c個分類結果中的乙個 h h1,h2,hch1,...