人工神經網路的生物原型是大腦，人腦中的神經網路是乙個非常複雜的組織，其基本組成單位是神經元（神經細胞），**的大腦中估計有1000億個神經元之多。十九世紀末二十世紀初，在解剖學家、生物學家、醫學家的共同努力下，神經元的組成結構便被研究清楚，乙個神經元主要由四部分構成：
神經元怎麼發揮作用呢？其實神經元是個訊號處理單元，它有兩種狀態：興奮和抑制。平時處於抑制狀態的神經元，當接收到其它神經元經由突觸傳來的衝擊訊號時，多個輸入在神經元中以代數和的方式疊加。如果疊加總量超過某個閾值，神經元就會被激發進入興奮狀態，發出輸出脈衝，並由軸突的突觸傳遞給其它神經元。神經元被觸發後有乙個不應期，在此期間內不能被觸發，然後閾值逐漸下降，恢復原來狀態。
神經元模型便是模擬大腦神經元的執行過程，其包含輸入，輸出與計算功能，輸入可以模擬為神經元的樹突，而輸出可以模擬為神經元的軸突，計算則可以模擬為細胞核。下圖是乙個典型的神經元模型：包含有
m m
個輸入，1個輸出，以及2個計算功能：
輸入訊號來自外部或別的處理單元的輸出，在數學上表示為行向量x=
(x1,
x2,…
,xm)
' role="presentation" style="position: relative;">x=(
x1,x
2,…,
xm)x
=(x1
,x2,
…,xm
)，其中xi
x i為第
i i
個輸入的激勵電平，
m' role="presentation" style="position: relative;">m
m表示輸入數目。
連線到結點
k k
的加權表示為加權向量wk
=(wk
1,wk
2,…,
wkm)
' role="presentation" style="position: relative;">wk=
(wk1
,wk2
,…,w
km)w
k=(w
k1,w
k2,…
,wkm
)，其中wk
i wki
表示從結點
i i
（或第i' role="presentation" style="position: relative;">i
i個輸入點）到結點
k k
的加權，或稱
i' role="presentation" style="position: relative;">ii與
k k
結點之間的連線強度。
計算功能的主要作用是對每個輸入訊號進行處理以確定其強度（加權）；確定所有輸入訊號的組合效果（求和）；然後確定其輸出**移特性）。
考慮到內部閾值bk
' role="presentation" style="position: relative;">bkb
k，用x0
=−1 x0=
−1的固定偏置輸入點表示，其連線強度取wk
0=bk
w k0
=bk。於是，可得輸入的加權和為： vk
=∑i=
1mxi
wki−
bk=∑
i=0m
xiwk
i.v k=
∑i=1
mxiw
ki−b
k=∑i
=0mx
iwki
.處理單元的激勵電平vk
v
k通過乙個轉移函式φ(
⋅)φ (⋅
)，得到處理單元的最後輸出值yk
y
k： yk
=φ(v
k)=φ
(∑i=
0mxi
wki)
. yk=
φ(vk
)=φ(
∑i=0
mxiw
ki).
轉移函式φ(
⋅)φ (⋅
)也稱激勵函式、傳輸函式或限幅函式，其作用就是將可能的無限域變換到一指定的有限範圍內輸出，這類似於生物神經元具有的非線性轉移特性。常用的轉移函式有線性函式、斜坡函式、階躍函式、符號函式、sigmoid函式、雙曲正切函式、relu函式等。具體的可參考部落格深度學習常用啟用函式。
神經元模型的使用可以這樣理解：假設有乙個新的資料樣本，其有多個屬性，其中
m m
個屬性已知，1個屬性未知。此時需要做的就是通過
m' role="presentation" style="position: relative;">m
m個已知屬性**未知屬性。通常情況下已知的屬性稱之為特徵，未知的屬性稱之為目標。若已經得到表示特徵與目標之間關係的權值wk
1 wk1
，w2w 2，
… …
，w3w
3，那麼就可以通過神經元模型**新樣本的目標。可見，乙個神經元的功能是求得輸入向量與權向量的內積後，經乙個非線性傳遞函式得到乙個標量結果。
05神經網路原理及應用
《機器學習》 周志華
神經網路淺講：從神經元到深度學習
神經網路 神經元
從生物上來說，神經元就是神經細胞的別稱。神經元最主要的兩個特性 興奮性和傳導性。興奮性 神經元的興奮性具有一種很特殊的現象，當刺激強度未達到某一閾限值時 限值的概念為人工神經元模仿提供了理論依據，傳輸函式中大多數函式都是依據此原則來輸出的 神經衝動不會發生，而當刺激強度達到該值時，神經衝動發生並能瞬...
簡單的神經元模型
其函式表達如下所示 y b i xiwi y b ix iwi其中，w w 表示權值，x role presentation style position relative x x表示輸入。y y 表示輸出。線性神經元模型中，輸入xi可以被看作是 來自其他神經元的動作電位，該動作電位引起突觸的興奮。...
神經元模型和網路結構
一 神經元模型 1.單輸入神經元 神經元是神經網路操作的基本資訊處理單位。乙個單輸入神經元如下圖所示。標量輸入p乘上權值w得到wp，再將其送入累加器 另乙個輸入1乘上偏置值b，再將其送入累加器。偏置值b的作用是根據其為正或負，相應的增加或者降低傳輸函式的網路輸入。累加器輸出n通常被稱為傳輸函式f的淨...