目錄hopfield網路計算圖
hopfield網路的能量函式
hnn型別
chnn
定義\(\forall x\in \r^n, \forall a\in a,\ \lim_d(f^n(x),f^n(a))=0\), a為吸引子
[半]正/負定函式
自治系統*衡點
\(\dot=f(x)\)
李雅普諾夫候選函式v
\(\dot(x)=\nabla vf(x)\),若
穩定*衡點:\(\dot(x)\leq 0,\ x\in \mathcal\)
區域性漸*穩定*衡點:\(v(x)>0,\dot(x)< 0,\forall x\in \mathcal-\\)
全域漸*穩定*衡點:即網路的乙個李雅普諾夫函式,可以使得某一起始點迭代達到某一種*衡點。由統計熱力學結論得來。\(v(x)>0,\dot(x)< 0,\forall x\in \r^n-\,\ ||x||\rightarrow \infty\rightarrow v(x)\rightarrow \infty\) (徑向無界)
\[e(t)=-\fracx^t(t)wx(t)+x^t(t)t
\]\[e(t)=-\fracv^twv-i^tv+\sum^n_\frac\int^_0f^(v)dv
\]特點:當然有下界啦
\(\dot=f(wx-t)\),w為網路的連線,t為偏置,f為激勵
根據能量函式調整引數,使得總體能量最低。具體方法:
具有相似特徵的始點迭代收斂,可以落入臨*設定好的*衡點,迭代方式分為非同步調整和同步調整,迭代過程是乙個能量遞減的過程
特點迭代方式特點
迭代方式
Hopfield神經網路
import numpy as np import neurolab as nl import matplotlib.pyplot as plt 0 1 2 16 8 target np.array 0,0,0,0,0,0,0,0,0,0,0,1,1,0,0,0,0,0,1,0,0,1,0,0,0,...
hopfield神經網路
初次接觸hopfield神經網路,有一些約束沒有注意,導致生出很多愚蠢的想法。一 hopfield神經網路其實沒有層的概念,所有的神經元全連線就形成了乙個hopdield神經網路的基本結構。既然是全連線,那麼誰先誰後 誰左誰右就沒有意義了,反正都是互聯的。二 hopfield神經網路既然沒有層的概念...
Hopfield神經網路
多層神經網路 模式識別 相互連線型網路 通過聯想記憶去除資料中的雜訊 1982年提出的hopfield神經網路是最典型的相互鏈結型網路。當輸入模式為某種狀態時,輸出端要給出與之相應的輸出模式。如果輸入模式與輸出模式一致,稱為自聯想記憶,否則,稱為異聯想記憶。網路結構上,hopfield神經網路是一種...