神經元數學模型o
i(t+
1)=f
其中o為輸出，f為神經元變換函式，w為權重，t為閾值。=−1,
w0j=
tj，可以簡化為： oj
=f(w
tjx)
變換函式
有四種：閾值型、sigmoid、分段線性、概率分布（boltzmann）
神經網路學習
通用學習規則： δw
j=ηr
[wj(
t),x
(t),
dj(t
)]xt
其中η 叫做學習率，r[
wj(t
),x(
t),d
j(t)
] 叫做學習訊號，不同的學習規則的主要區別就在於r。
hebb規則:r=
f(wt
jx)
離散perceptron：r=
dj−f
(wtj
x),其中的變換函式採用符號函式
連續perceptron：r=
[dj−
f(wt
jx)]
f′(w
tjx)
,其中的變換函式採用符號函式
待續。。。
人工神經網路（ANN）
參考資料 從函式上來看，神經網路是回歸方程的級聯疊加，用來逼近目標函式的，本質是一種模擬特徵與目標之間的真實關係函式的模型 乙個有向拓撲，每層有若干節點，節點間有邊，邊上有權值。輸入層隱藏層 多層 後層是前層各節點值的線性組合的函式，即y f x0 w1x1 w2x2 wnxn 線性組合的係數就是邊...
人工神經網路ANN
一 基本概念 ann artificial neural network前饋神經網路的縮寫 二 模型構建 2.1 神經元 2.2 啟用函式 意義 啟用函式是用來讓給神經網路加入非線性因素的，因為線性模型的表達能力不夠。如果沒有啟用函式，那麼該網路僅能表達線性對映，此時即便有再多的隱藏層，其整個網路跟...
神經網路 ANN（一）
神經網路 ann 新年啦！先給自己乙個小小的改變，比如寫一篇部落格。再給自己乙個小目標，比如3天內徒手寫個ann 所以，以下內容是在3天的時間內學到的，未免有不足之處，望指教。ann不是一下子就可以被發明出來的，期間經過了幾代人的努力才慢慢成型 參考 從單個神經元講起。乙個神經元其實很笨，它可以有多...