卷積網路是有線性運算元的網路，有使用「底層網格幾何」（underlying grid geometry）的區域性卷積運算元。
舉例來說，用 m×
m 的網格結構來表示網路的第
k 層的話，如下圖所示
我們定義第 k+
1層的函式 h(
k+1)
i,j 是由其下面一層的 2×
2 方陣卷積運算，再帶入非線性函式
g 求得的： h(
k+1)
i,j=
g(a(
k)h(
k)i,
j+b(
k)h(
k)i+
1,j+
c(k)
h(k)
i,j+
1+d(
k)h(
k)i+
1,j+
1)引數 a(k
),b(
k),c
(k),
d(k)
只取決於其所在的層，與具體的方陣座標 i,
j 無關（在視覺領域應用中的必要限制，基本定義並無這一限制）
優點：
- 引數共享
- 函式
h 定義的 區域性性 使網路獲得了「稀疏性」（sparsity）
經過卷積操作和
g函式運算後，得到 grid-indexed 函式 h(
k+1)
i,j ,我們用其鄰近範圍內的所有函式的均值或最大值來替代這個函式。 h¯
(k+1
)i,j
=14(
h(k+
1)i,
j+h(
k+1)
i+1,
j+h(
k+1)
i,j+
1+h(
k+1)
i+1,
j+1)
這個技巧也可以用來減少維度
《深度學習中的數學》學習筆記
這一代的人工智慧 資料為王。有什麼樣的資料，出什麼樣的模型。神經網路中比較重要的一點就是利用網路自學習演算法來確定權重大小。有監督學習是指，為了確定神經網路的權重和偏置，事先給予資料，這些資料稱為學習資料。根據給定的學習資料確定權重和偏置，稱為學習。神經網路是怎樣學習的呢？思路極其簡單 計算神經網路...
數學與深度學習
深度學習與人工智慧領域主要的門檻有程式設計能力，需要有很好的邏輯思維和程式設計經驗 還需要有紮實的數學基礎，能夠看懂相關的理論 同時計算機基礎知識也需要掌握 最後還要了解相關學科的知識，比如計算機視覺領域的影象處理知識等。下面主要介紹數學方面的掌握內容 線性代數。想要學習深度學習，你第乙個需要理解透...
深度學習的數學基礎要求
書目如下 概率論與統計 概率與統計 北京大學出版社 陳家鼎degroot,morris h.and mark j.schervish.probability and statistics.3rd ed.boston 高等代數 線性代數 introduction to linear algebra,f...