從神經網路到卷積神經網路
為什麼?
1.對於人工神經網路,如果輸入資料維度較高、神經元較多、隱藏層較多這些都會導致引數過多,而引數的過多會導致模型訓練速度慢。
2.人工神經網路隨著層數的不斷增加,如果層數過多容易產生過擬合。
卷積神經網路是讓神經元進行部分學習,然後在合成。其實是一種分布式思想。
每一層的神經元,其實只和上一層裡某些小區域進行連線,而不是和上一層每個神經元全連線。
卷積神經網路的結構
卷積神經網路主要的的3層:
具體來說:
結構示例 (針對影象)
我們繼續拿cifar-10資料集舉例,乙個典型的該資料集上的卷積神經網路分類器應該有[input - conv - relu - pool - fc]的結構,具體說來是這樣的:
總結一下:
卷積神經網路的優缺點
優點:
缺點:
典型的cnn
神經網路常用框架
1.caffe
model zoo中有大量預訓練好的模型供使用。
2.mxnet
對視訊記憶體利用率非常高;
定義網路層簡單。
3.tensorflow
視覺化方便,實時監控;
資料和模型並行化好,速度快。
4.另外:theano、keras、torch
參考:
神經網路 卷積神經網路
這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...
神經網路 卷積神經網路
1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...
卷積神經網路 有趣的卷積神經網路
一 前言 最近一直在研究深度學習,聯想起之前所學,感嘆數學是一門樸素而神奇的科學。f g m1 m2 r 萬有引力描述了宇宙星河運轉的規律,e mc 描述了恆星發光的奧秘,v h d哈勃定律描述了宇宙膨脹的奧秘,自然界的大部分現象和規律都可以用數學函式來描述,也就是可以求得乙個函式。神經網路 簡單又...