假設我有乙個轉換層輸出（n，?，?，?）形張量：
n批量大小
f是卷積濾波器的數量
?，?是空間尺寸
假設將此輸出饋入v1的轉換層1x1過濾器，零填充和跨度1。然後此1x1轉換層的輸出將具有形狀（?，?1、h、?）
因此1x1轉換濾鏡可用於更改濾鏡空間中的尺寸。如果?1>?那麼我們在增加維數，如果?1<?
我們正在降低維度，即過濾器維度。
上述模組的乙個大問題是，即使是適度的5x5卷積，在具有大量過濾器的卷積層之上也可能是非常昂貴的。
這導致了所提出的體系結構的第二個想法：明智地將尺寸縮小和投影應用於計算需求會增加太多的地方。這是基於嵌入的成功：即使是低維的嵌入也可能包含許多有關較大影象補丁的資訊… 1x1卷積用於計算比昂貴的3x3和5x5卷積還要小的壓縮。除了用作減少量之外，它們還包括使用整流線性啟用，使其具有雙重用途。
因此，在inception體系結構中，我們使用1x1卷積濾波器來減少濾波器維數。如上文所述，這些1x1轉換層通常可用於更改濾鏡空間維數（增加或減小），在inception體系結構中，我們看到了這些1x1濾鏡對於降維效果如何，尤其是在濾鏡維空間中，而不是空間維度空間。
特徵地圖過多的問題
卷積層中使用的輸入深度或濾波器數量通常會隨著網路深度的增加而增加，從而導致生成的特徵圖數量增加。這是一種常見的模型設計模式。
此外，某些網路體系結構（例如初始體系結構）也可以連線來自多個卷積層的輸出特徵圖，這也可能會大大增加後續卷積層的輸入深度。
卷積神經網路中的大量特徵圖可能會引起問題，因為必須向下執行整個輸入深度的卷積運算。如果要執行的卷積運算相對較大（例如5×5或7×7畫素），這將是乙個特殊的問題，因為它可能導致更多的引數（權重），進而導致執行卷積運算的計算（較大時空複雜度）。
池層設計用於縮小特徵圖的比例，並系統地將網路中特徵圖的寬度和高度減半。但是，池化層不會更改模型中過濾器的數量，深度或通道的數量。
深度卷積神經網路需要相應的合併型別的圖層，該圖層可以降低取樣率或減少特徵圖的深度或數量。
使用1×1濾鏡下取樣特徵圖
解決方案是使用1×1濾鏡向下取樣特徵圖的深度或數量。
1×1濾波器的輸入中每個通道只有乙個引數或權重，就像任何濾波器的應用一樣，其結果也只有乙個輸出值。這種結構允許1×1過濾器像單個神經元一樣起作用，並且輸入來自輸入中每個特徵圖的相同位置。然後，可以單步移動，從左到右，從上到下，系統地應用該單個神經元，而無需進行填充，從而得到寬度和高度與輸入相同的特徵圖。
1×1濾波器非常簡單，以至於輸入中不包含任何相鄰畫素。它可能不被認為是卷積運算。相反，它是輸入的線性加權或投影。此外，與其他卷積層一樣，使用了非線性，從而允許投影對輸入特徵圖執行非平凡的計算。
這個簡單的1×1過濾器提供了一種有效彙總輸入要素圖的方法。依次使用多個1×1濾鏡，可以調整要建立的輸入要素圖的摘要數量，從而有效地根據需要增加或減小要素圖的深度。
因此，可以在卷積神經網路的任何點上使用帶有1×1濾波器的卷積層來控制特徵圖的數量。這樣，它通常被稱為投影操作或投影層，或者甚至稱為特徵圖或通道池層。
卷積神經網路 1 1 卷積核
卷積神經網路中卷積核的作用是提取影象更高維的特徵，乙個卷積核代表一種特徵提取方式，對應產生乙個特徵圖，卷積核的尺寸對應感受野的大小。經典的卷積示意圖如下 5 5的影象使用3 3的卷積核進行卷積，結果產生3 3 5 3 1 的特徵影象。卷積核的大小一般是 2n 1 2n 1 的奇數乘奇數大小 n 1 ...
卷積神經網路 1 1 卷積核
卷積神經網路中卷積核的作用是提取影象更高維的特徵，乙個卷積核代表一種特徵提取方式，對應產生乙個特徵圖，卷積核的尺寸對應感受野的大小。經典的卷積示意圖如下 5 5的影象使用3 3的卷積核進行卷積，結果產生3 3 5 3 1 的特徵影象。卷積核的大小一般是 2n 1 2n 1 的奇數乘奇數大小 n 1 ...
卷積神經網路中的1 1卷積
我們都知道，卷積核的作用在於特徵的抽取，越是大的卷積核尺寸就意味著更大的感受野，當然隨之而來的是更多的引數。早在1998年，lecun大神發布的letnet 5模型中就會出，影象空域內具有區域性相關性，卷積的過程是對區域性相關性的一種抽取。但是在學習卷積神經網路的過程中，我們常常會看到一股清流般的存...