設輸入的資料維度是b x s x t
一維卷積神經網路在維度s上進行卷積
如下,設定一維卷積網路的輸入通道為16維,輸出通道為33維,卷積核大小為3,步長為2
如上所述,輸入維度為20 x 16 x 50# in_channels: 16
# out_channels: 33
# kernel_size: 3
m = nn.conv1d(16, 33, 3, stride=2)
input = torch.randn(20, 16, 50)
output = m(input)
# shape of output is ([20, 33, 24])
# 最後乙個維度:
# (50 - 3)/2 + 1 = 24
print(output.shape)
經過一維卷積後輸出維度是20 x 33 x 24
第二個維度從16變為33,因為一維卷積輸入通道為16,對應輸入的第二個維度,一維卷積輸出為33,對應輸出的第二個維度
最後乙個維度從50變為24,將引數帶入公式[(n+2p-f) / s + 1]向下取整得到[(50-3)/2 + 1] = 24
而全連線神經網路對維度t進行卷積
使用和上述相同的輸入維度,設定全連線神經網路的輸入維度為input的最後乙個維度50,輸出維度為33
將輸入通過全連線神經網路後得到輸出維度為20 x 16 x 33m1 = nn.linear(50, 33)
output1 = m1(input)
# shape of output1 is ([20, 16, 33])
print(output1.shape)
即,全連線神經網路只在輸入的最後乙個維度進行卷積
一維卷積神經網路 卷積神經網路中的計算
卷積的基本介紹 卷積操作後張量的大小計算 卷積參數量的計算 卷積flops的計算 感受野的計算 卷積神經網路中的卷積是指定義好卷積核 kernel 並對影象 或者特徵圖,feature map 進行滑動匹配,即對應位置相乘再相加。其特點就在於能夠捕捉區域性的空間特徵。具體過程如下圖所示 圖1 二維卷...
卷積神經網路的理解
cnn中減少引數的2兩個規則 1 區域性感知。生物學中,視覺皮層的神經元是區域性感知資訊的,只響應某些特定區域的刺激 影象的空間聯絡中,區域性的畫素聯絡較為緊密,距離較遠的畫素相關性較弱。這個對應於演算法中卷積核的大小,mnist手寫識別在28 28的畫素中取patch為5 5。上圖中 左邊是全連線...
卷積神經網路 有趣的卷積神經網路
一 前言 最近一直在研究深度學習,聯想起之前所學,感嘆數學是一門樸素而神奇的科學。f g m1 m2 r 萬有引力描述了宇宙星河運轉的規律,e mc 描述了恆星發光的奧秘,v h d哈勃定律描述了宇宙膨脹的奧秘,自然界的大部分現象和規律都可以用數學函式來描述,也就是可以求得乙個函式。神經網路 簡單又...