一、卷積神經網路的訓練需要大量的資料和計算能力。手動收集大規模標記資料集是一項艱鉅的任務。通過無監督學習技術提取分層特徵可以放寬對大量標記資料的需求。開發有效且可擴充套件的並行學習演算法以加快學習過程。在幾個應用領域中，存在物件類的長尾分布，不頻繁物件無法獲得足夠的訓練例項。需要適當調整網路深度以克服類的不平衡問題。
二、 儲存大量引數占有高記憶體。研究如何在不損失精度的條件下降低深度神經網路的複雜性 。
三、選擇合適的超引數需要相當多的技能和經驗。研究超引數選擇的優化技術。
四、缺乏堅實的數學和理論基礎。對於複雜神經網路的行為或它們如何能實現如此良好的效能，我們幾乎沒有任何了解，是的更好的模型開發僅限於反覆試驗。所以，試圖了解已經學習了那些特徵，並了解在深度cnn中每層執行了什麼計算，是越來越受歡迎的研究方向。
五、面對對抗性例項表現脆弱。故意設計的對抗性例項會使學習模型出錯。提供複雜的防禦策略是學多機器學習演算法的重要組成部分。
六、無法處理任意形狀的輸入。卷積神經網路無法處理任意形狀的輸入例如迴圈圖和非迴圈圖，此外，在深度網路公式中不存在將結構化損失納入其中的原則性方法。而這種損失對於像身體姿勢估計和語義分割的結構化**任務是必不可少的。
電腦科學 2017 08 快速卷積神經網路
最先進的影象處理模型的計算代價與公開可用的裝置處理能力之間存在著間隙，這一差距正在降低這些有希望模型的適用性。為了彌補這一差距，我們首先研究了裁剪和因子分解以降低模型的計算成本。其次，我們尋找可供選擇的卷積運算來設計最先進的模型。第三，利用這些可替代的卷積運算，我們訓練了cifar 10分類任務的模...
卷積與卷積神經網路
神經網路中的卷積是指用乙個卷積核 也叫濾波器 實質上是乙個矩陣，在影象上掃瞄一遍，得到乙個新的影象。掃瞄的實質，就是矩陣大小的影象畫素值，和卷積核做運算，然後得到新的畫素值，放到新的影象中 運算不是一行乘一列的乘法，而是哈達馬積，即對應位置的元素一一相乘。最後，把哈達馬積得到的矩陣上的每乙個元素求和...
電腦科學 2019 01 貝葉斯卷積神經網路
人工神經網路是一種互連系統，它通過學習例項來完成給定的任務，而不必事先了解該任務。這是通過為每個節點中的權重找到最佳點估計來完成的。一般來說，使用點估計作為權重的網路在大型資料集上表現良好，但它們無法在資料很少或沒有資料的區域中表達不確定性，從而導致決策過於自信。本文提出了一種基於變分推理的貝葉斯卷...