卷積神經網路的發展主要是為了解決人類視覺問題，不過現在其它方向也都會使用。發展歷程主要從lenet5->alexnet->vgg->goolenet->resnet等。
傳統bp神經網路層與層之間都是全連線的，對於影象處理領域，當神經網路處理大影象時，全連線會導致待訓練的引數非常龐大，比如100萬個畫素的影象，對於100個節點的隱層，則會產生億級別的引數，如果更多層及更多個節點那引數數量將會無比龐大。此外，傳統bp神經網路沒有假設相鄰影象之間存在緊密聯絡。綜上所述，bp神經網路不適合做影象處理。
為減少引數數量，首先想到可以構建部分連線的神經網路，每個神經元不再與上層所有神經元相連，而是連線某部分。另外還能通過權值共享來減少引數數量，一組連線共享權重而不必每個連線權重都不同。除此之外，還能通過池化來減少每層的樣本數，從而減少引數數量。結合以上特點，卷積神經網路就是這樣的一種網路。
看乙個卷積神經網路示意圖，它包含了若干卷積層、池化層和全連線層。影象輸入經過第一層卷積層處理後，得到4層feature，為什麼可以是4層呢？其實就是可以自定義4個不同的filter對輸入分別運算，就得到4層feature。然後池化層對卷積後的feature進行池化處理，得到更小的feature，這裡運算後同樣是4層feature。接著繼續根據filter做卷積和池化處理，最後通過兩個全連線層完成輸出。
神經網路特徵視覺化
1.visualizing higher layer features of a deep network 本文提出了兩種視覺化方法。1.最大化activation 當訓練完乙個深層神經網路之後，固定全部引數。然後對於某乙個神經元的activation進行梯度上公升優化來尋找能使它的值最大化的inp...
卷積神經網路的視覺化
2014eccv紐約大學 matthew d.zeiler,rob fergus文章主要技巧 使用視覺化技巧 反卷積網路 deconvnet 來直 到cnn中間層的特徵對應的影象區域，deconvnet在 zeiler et al.2011 中被用作無監督學習，本文則用來進行視覺化演示。一層反卷積網...
卷積神經網路視覺化理解
看了cs231的課程，想自己嘗試做下視覺化，權當加深對卷積神經網路的理解吧。課程 課程裡提到第一層卷積一般做的是傳統視覺的工作，主要提取一些有向邊，視覺化卷積核的原因是類似模板匹配的思想啥的，具體我也沒有深究。我自己的看法是，視覺化卷積核，權重大的位置說明該點對輸出啟用影響大，第一層卷積恰好對應影象...