1. visualizing higher-layer features of a deep network
本文提出了兩種視覺化方法。
1. 最大化activation
當訓練完乙個深層神經網路之後， 固定全部引數。 然後對於某乙個神經元的activation進行梯度上公升優化來尋找能使它的值最大化的input。
不斷的用gradient ascent來更新乙個初始化為random value的input。
converge 之後的input就是能使這個神經元activation最大化的input。 也就是這個神經元學到的feature。
2. sampling from a unit of a deep belief network
把乙個神經元的activation設為1。 然後generate 一些對應的samples， 通過這些samples預計乙個distribution。
3. linear combination of previous layers' filters
這個是已經存在的技術， 用底層的filter線性組合來visulze上層的filter
結論1. 不同的網路結構或者模型會學到不同的filter。
2. 好的模型學到的filter通常比較easy解釋，可是這個不是100%適用。 有些model學到的feature看似不好可是這個model效果也可能非常好。
3. deep model 高層的feature相對照較high level 並且能夠是底層feature的組合。
視覺化探索卷積神經網路提取特徵
卷積神經網路的發展主要是為了解決人類視覺問題，不過現在其它方向也都會使用。發展歷程主要從lenet5 alexnet vgg goolenet resnet等。傳統bp神經網路層與層之間都是全連線的，對於影象處理領域，當神經網路處理大影象時，全連線會導致待訓練的引數非常龐大，比如100萬個畫素的影象...
神經網路 權重視覺化
深度學習已經應用在各種不同的領域，並且都取得了不錯的效果，但是在很多情況下，深度學習網路被我們看做乙個黑匣子，我們不知道通過訓練，我們的網路到底學習到了什麼。今天給大家分享乙個簡單的權重視覺化的方法，在我們訓練完網路之後，可以通過權重視覺化，直觀的理解網路到底學習到了什麼。本次實驗基於mnist資料...
卷積神經網路的視覺化
2014eccv紐約大學 matthew d.zeiler,rob fergus文章主要技巧 使用視覺化技巧 反卷積網路 deconvnet 來直 到cnn中間層的特徵對應的影象區域，deconvnet在 zeiler et al.2011 中被用作無監督學習，本文則用來進行視覺化演示。一層反卷積網...