卷積神經網路學習研究(一)

2021-08-20 01:41:34 字數 818 閱讀 7443

結論:

卷積層:

1.增加網路的深度能夠提高準確率;

2.增加特徵面數也能提高準確率;

3.增加乙個卷積層比增加乙個全連線層更能獲得乙個更高的準確率;

4.採用較小的卷積核代替較大的卷積核,同時增加網路深度來增加複雜度,試驗表明網路深度比卷積核大小更為重要;

5.試驗表明,更小的卷積核且更深的cnn結構能夠獲得更優的效能;

6.在增加網路深度同時,適當減少特徵面數,同時卷積核大大小保持不變;

7.試驗表明,深度越深,網路效能越好,然而隨著網路深度的增加,網路的效能達到飽和;

8.試驗表明,特徵面數和卷積核的大小優先順序差不多,二者發揮的效能均沒有網路深度大;

9.金字塔架構的cnn往往具有封號的效能;

池化層:

1.最大池化特別適用於分離非常西稀疏的特徵;

2.使用區域性區域內所有的取樣點去執行池化操作也許不是最優的(即均值池化並不一定是最優的);

3.當分類層採用線性分類器,最大池化往往優於均值池化;

4.隨機池化具有最大池化的優點,同時由於它的隨機性能夠有效的避免過擬合,而且可以保證特徵麵中不是最大的激勵神經元也能被利用到;

5.重疊池化往往比無重疊池化泛化能力更強,更不容易產生過擬合;

6.池化層可以較少卷積層之間的連線權值的數量,即通過池化操作減少網路的複雜度;

全連線層:

1:全連線層可以整合卷積層或者池化層中具有類別區分性的區域性資訊;

2:為了提公升cnn的效能,激勵函式一般採用relu函式,最後一層往往採用sotfmax函式進行分類;

3:目前,cnn+dropout技術,往往會取得更好的分類效能;

神經網路 卷積神經網路

這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...

神經網路 卷積神經網路

1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...

卷積神經網路 一

卷積神經網路是一種特殊的多層神經網路,它是deep learning中的乙個演算法,現在主要應用在影象處理領域中。既然說它是deep learning中的乙個演算法,那麼就需要有大量的資料來支援,作為乙個深度的神經網路,引數動輒百萬以上,如果樣本數過小很容易造成overfitting。卷積神經網路可...