1 從多層感知機到卷積神經網路

2022-05-19 16:42:35 字數 489 閱讀 4367

答案是必然的,但是dnn有不少缺點,為此引入cnn。

一般情況下,影象資料比較大,意味著網路的輸入層維度也比較大。當然可以對其進行處理,即使這樣,假設處理完後影象變為2562563的彩色圖,即輸入的維度的值為196608。那麼後面的隱藏層的神經元個數自然也能太少,假設為1024。僅僅一層的鏈結就有高達196608 * 1024的參數量。巨大的計算量給計算能力帶來不小的挑戰。

同時,模型的神經元數量大,可能會帶來過擬合。

引入的cnn保持了層級網路結構,從輸入到輸出經過不同層次,不同層次有不同形式的運算或者功能。主要有以下層次:

資料輸入層/ input layer - 資料預處理

卷積計算層/ conv layer

激勵層/ activation layer - 非線性變換

池化層/ pooling layer - 下取樣

全連線層/ fc layer

批歸一化層/ batch normalization layer(可能有)

從感知機到神經網路

在我的之前的部落格中已經講解了感知機,接下來談到的神經網路與感知機有許多共同之處,下面主要是講講神經網路與感知機的不同之處。首先來看看乙個神經網路的示例 上圖示,最左側是輸入層,中間的一列被稱為中間層,也被稱之為隱藏層,最右一列被稱為輸出層。則,神經網路在訊號傳遞的過程中與感知機有什麼聯絡呢?在之前...

從感知機到神經網路

感知器在20世紀 五 六十年代由科學技術frank rosenblatt發明,其受到warren mcculloch和walter pitts早期的工作的影響。今天,使用其他人工神經元模型更為普遍 在這本書中,以及更多現代的神經網路工作中,主要使用的是一種叫做s型神經元的神經元模型。感知器是如何工作...

2 多層感知機(神經網路)

import tensorflow as tf print tensorflow version format tf.version import sys import pandas as pd import numpy as np import matplotlib.pyplot as plt m...