神經網路 一

神經元是神經網路的基本組成。

神經網路的神經元，是模仿生物的神經元結構。影象如下：

為了形象理解，可以將上圖簡化如下：

在這個神經元中，input的feature 可以有很多維度, output也可以有很多的 layer。

感知機(1)    感知機是網路神經的基礎，感知機也被稱為單層神經網路(即，單個神經元也稱作感知機)

(2)    感知機的一大缺陷是無法解決線性不可分問題，想要解決這一問題，需要將原來線性不可分的樣本對映到另乙個特徵空間去，在該空間樣本線性可分，對映方法主要有兩種:

①  人工指定對映方法

手動指定對映的方法，代表為核函式(核方法)

②  自動尋找對映方法

使用機器學習的方法自動獲得對映方法，代表為神經網路。

多層感知機

(1)    第一層為輸入層，最後一層為輸出層，中間為隱藏層。

(2)    ann(淺層神經網路)人工神經網路有兩個或兩個以上隱藏層，成為dnn(深度神經網路)

(3)    如果感知機層數越多(即網路越長)，基礎學習率相對就要越小，否則loss不容易收斂。當loss不收斂時，可能是基礎學習率不夠小，也可能是過擬合，也可能是資料集有問題。

(4)    如果是回歸，output層沒有非線性啟用函式；如果是分類，output層有非線性啟用函式。而hidden層通常都為非線性啟用函式。

神經網路（一）

神經網路 想讓計算機模擬大腦處理資訊的過程。如 有一杯水，手摸一下，收集溫度資訊，在神經元中進行傳遞，心中有乙個預設值，看是否溫度太高，還是太低。感知機 人工神經網路 神經網路的發展 傑弗里 埃弗里斯特 辛頓。英語 geoffrey everest hinton 是一位英國出生的計算機學家和心理學家...

神經網路 卷積神經網路

這篇卷積神經網路是前面介紹的多層神經網路的進一步深入，它將深度學習的思想引入到了神經網路當中，通過卷積運算來由淺入深的提取影象的不同層次的特徵，而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數，從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象，我盡量在下面描述細緻一些，但如果要更深入了...

神經網路 卷積神經網路

1.卷積神經網路概覽 來自吳恩達課上一張，通過對應位置相乘求和，我們從左邊矩陣得到了右邊矩陣，邊緣是白色寬條，當畫素大一些時候，邊緣就會變細。觀察卷積核，左邊一列權重高，右邊一列權重低。輸入，左邊的部分明亮，右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡，下面這個圖左邊暗...