技術人還是要寫技術文啊，寫什麼情感大戲啊。
開始遨遊cvpr2017，主要是為了學習更多的深度學習網路架構
講道理計算機視覺的深度學習架構是深度學習各領域比較先進的，比如cnn，自編碼器，gan，注意力機制都是出於cv然後應用於其他領域的。所以即使我不學cv了還是要看cvpr的**
**本身
deligan
討論一下gan的缺點:
mode collapse：當gan無法達到識別網路d每趟的執行次數大於生成網路g的時候，生成網路生成的所有內容都將歸於同樣的物件，比如訓練gan for mnist最後所有的生成內容都為1
訓練速度慢，訓練吃資料：原始gan的生成網路與識別網路都是mlp（不是很懂為什麼）。較cnn來說，mlp更吃資料而且執行速度更慢
gan生成資料的多樣性來自於gan的生成者輸入的噪音n。原始gan的噪音是高斯噪音。而這篇文章主要的重點，筆者認為在於嘗試去用乙個有點想batch normalization的方式去學習雜訊輸入
圖右就是deligan的結構。可以看到，deligan在輸入的時候進行了變化。
2.deligan
deligan使輸入噪音通過乙個高斯混合模型（mixture-of-gaussian model）pz
(z)=
∑ni=
1ϕig
(z|μ
i,σ)
p z(
z)=∑
i=1n
ϕig(
z|μi
,σ)其中ϕ
i ϕ
i是權值，也是採用重引數單元（我使用的是指的是g(
z|μi
,σ) g(z
|μi,
σ)）的概率。在文章中
ϕ ϕ
使用的是uniform概率，即原公式變為pz
(z)=
∑ni=
1g(z
|μi,
σ)n pz(
z)=∑
i=1n
g(z|
μi,σ
)n我們隨機的從n個重引數單元中選取乙個，每乙個選取概率相同
假設第i
i
個單元被選擇。我們將輸入重新定義為z=
μi+σ
iϵwh
ereϵ
∼n(0
,1)' role="presentation">z=μ
i+σi
ϵwhe
reϵ∼
n(0,
1)z=
μi+σ
iϵwh
ereϵ
∼n(0
,1)
將其代入gan的模型，可以將原模型變為：pd
ata(
g(z)
)=∑n
i=1∫
pdat
a(g(
μi+σ
iϵ|ϵ
))p(
ϵ)dϵ
n pda
ta(g
(z))
=∑i=
1n∫p
data
(g(μ
i+σi
ϵ|ϵ)
)p(ϵ
)dϵn
其中μμ
和σ σ
都是應該學習的引數
3.學習
μ μ
與σ σ
notice：作者說明為什麼不試著在單元的地方使用權值引數：因為無法正常訓練，無法得到權值的梯度由於p
data
(g(z
))p da
ta(g
(z))
在μiμ
i處有區域性最小值，所以當g優化
σ σ
的時候，
σ σ
可以小於0。為了避免這個，我們嘗試在gan網路 基礎上用l2正則化ma
xgvg
(d,g
)=mi
ngez
∼pz[
log(
1−d(
g(z)
))]+
λ∑ni
=1(1
−σi)
2nm ax
gvg(
d,g)
=min
gez∼
pz[l
og(1
−d(g
(z))
)]+λ
∑i=1
n(1−
σi)2
n4. 實驗
這個**實驗最有意思的地方在於他對不同的資料庫用不同的架構
可以看出，他用了inceptive的結構，這對於某些網路結構有非常好的效果。
從h-m中看出，效果大概比gan好（j-m是它定義的一些架構，就不描述了）
我的想法
我覺得……還行吧，暫時沒有執行過。整體比較玄學，並沒有解釋為什麼這個設計好與好在哪，我只能說輸入從普通的高斯噪音變成了加強版的高斯噪音
我認為單元的設計有點像dropout + ensemble。
我懂為什麼對多樣性有幫助，但是並不是很懂對limited data有什麼幫助
多樣性指數介紹
之前了解了shannon diversity index，所以順便補一下其他多樣性指數的概念 i am 分割線 1 species richness 系統中物種的觀察值是其真實物種豐富度的有偏估計值，並且觀察值會隨著取樣的增加非線性的增長。因此在表示 從生態系統中觀察到的物種豐富度時，s常被稱作種密...
菌群多樣性分析報告
參考鏈結 在開始實驗專案之前，明確實驗流程，一步一步獲取實驗結果，以視覺化工具展現結果，並加以生物學意義上的分析，獲取完整的分析報告。下面給出菌群多樣性分析報告中應包含的大致內容，並對實驗流程做出指導性的闡述。1.專案背景與概況 簡單闡述所研究專案的國內外現狀，本專案的目的與意義。2.材料與方法 m...
谷歌的勞動力多樣性
一直以來，我們對谷歌的勞動力多樣性諱莫如深。現在，我們意識到這並不是乙個明智的做法，是時候談談這個話題了。簡單來說，當我們說起勞動力多樣性時，谷歌並不是乙個理想的例子，並且，如果你不是懷著一顆開放包容的心，很多問題根本無從說起。下面是谷歌勞動力多樣性的資料。出於各方面的原因，許多科技公司，比如谷歌，...