卷積神經網路的發展主要是為了解決人類視覺問題,不過現在其它方向也都會使用。發展歷程主要從lenet5->alexnet->vgg->goolenet->resnet等。
上世界80年代發明了卷積層,但由於硬體限制無法構建複雜網路,直到後面90年代才開始有實踐。
2023年lecun提出卷積層、池化層和完全連線層組合,以此來解決手寫數字的識別問題。此時的效果已經很不錯了,能與其它經典的機器學習模型相比。架構如下,乙個32 x 32的輸入,通過卷積提取特徵,然後進行下取樣,再一次卷積和下取樣,後面進行全連線和高斯連線。
後來隨著可用的結構化資料和處理能力呈指數增長,使得模型能進一步增強,特別是imagenet開源資料集的出現,數百萬張被標記分類的影象。
2023年的lsvrc挑戰賽,hinton和他學生alex krizhevsky開發了alexnet深度卷積網路,結構類似lenet5,但是卷積層深度更深,引數總數達數千萬。結構如下,多個卷積層且每個網路深度都達數百。
2023年lsvrc挑戰賽強大的競爭者,由牛津大學視覺幾何組織提出
卷積神經網路 有趣的卷積神經網路
一 前言 最近一直在研究深度學習,聯想起之前所學,感嘆數學是一門樸素而神奇的科學。f g m1 m2 r 萬有引力描述了宇宙星河運轉的規律,e mc 描述了恆星發光的奧秘,v h d哈勃定律描述了宇宙膨脹的奧秘,自然界的大部分現象和規律都可以用數學函式來描述,也就是可以求得乙個函式。神經網路 簡單又...
神經網路 卷積神經網路
這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...
神經網路 卷積神經網路
1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...