lsgan（least squares gan）這篇文章主要針對標準gan的穩定性和生成質量不高做了乙個改進。作者將原始gan的交叉熵損失採用最小二乘損失替代。lsgan的loss：
min d
j(d)
=mind
[12e
x∼pd
ata(
x)[d
(x)−
a]2+
12ez
∼pz(
z)[d
(g(z
))−b
]2]\mathop\limits_dj(d)=\mathop\limits_d[}_}(x)}[d(x)-a]^2 + }_(z)}[d(g(z))-b]^2]
dminj
(d)=
dmin[
21e
x∼pd
ata
(x)
[d(x
)−a]
2+21
ez∼
pz(
z)[
d(g(
z))−
b]2]
min g
j(g)
=ming
12ez
∼pz(
z)[d
(g(z
))−c
]2\mathop\limits_gj(g)=\mathop\limits_g}_(z)}[d(g(z))-c]^2
gminj
(g)=
gmin2
1ez
∼pz
(z)
[d(g
(z))
−c]2
實際實現的時候非常簡單，最後一層去掉sigmoid，並且計算loss的時候用平方誤差即可。之所以這麼做，作者在原文給出了一張圖：
上圖是作者給出的基於交叉熵損失及最小二乘損失的loss函式。橫座標代表loss函式的輸入，縱座標代表輸出的loss值。可以看出，隨著輸入的增大，sigmoid交叉熵損失很快趨於0，容易導致梯度梯度飽和問題。如果使用右邊的loss設計，則只在x=1點處飽和。因此使用lsgan可以很好的解決交叉熵損失的問題。
深度學習（一）深度學習學習資料
持續更新 一 學習清單 1 收集了各種最新最經典的文獻，神經網路的資源列表 2 計算機視覺學習清單 3 機器學習學習清單 二 訓練資料 人臉資料 1 香港中文大學訓練資料集 此資料庫包含了20w張人臉，每張標註了5個特徵點 以及幾十種屬性 是否微笑 膚色 髮色 性別等屬性 2 68個人臉特徵點 3 ...
深度學習系列 深度學習簡介
機器學習 使用計算機系統利用經驗改善效能，是人工智慧領域的分支，也是實現人工智慧的一種手段。表徵學習關注如何自動找出表示資料的合適方式，以便更好地將輸入變換為正確的輸出。深度學習 具有多級表示的表徵方法，在每一級 原始資料開始 通過簡單的函式將該級的表示變換為更高階的表示。可以將深度學習看作多個簡單...
深度學習深度學習（一）開篇
深度學習 深度學習 記得9年前寫的一篇部落格，十年的程式設計師，一晃眼，差不多10年又快到了。這一輪的人工智慧，深度學習，他是我見到的乙個非常特殊的程式設計方式 用資料程式設計。是的，他絕對不像其他的程式語言，是完全乙個嶄新的天地，掌握她，絕對會帶來驚喜 你會發現以前感覺超級難的東西會忽然 哇，這個...