Hopfield神經網路

2022-06-11 05:51:11 字數 982 閱讀 2328

目錄hopfield網路計算圖

hopfield網路的能量函式

hnn型別

chnn

定義\(\forall x\in \r^n, \forall a\in a,\ \lim_d(f^n(x),f^n(a))=0\), a為吸引子

[半]正/負定函式

自治系統*衡點

\(\dot=f(x)\)

李雅普諾夫候選函式v

\(\dot(x)=\nabla vf(x)\),若

穩定*衡點

\(\dot(x)\leq 0,\ x\in \mathcal\)

區域性漸*穩定*衡點

\(v(x)>0,\dot(x)< 0,\forall x\in \mathcal-\\)

全域漸*穩定*衡點

\(v(x)>0,\dot(x)< 0,\forall x\in \r^n-\,\ ||x||\rightarrow \infty\rightarrow v(x)\rightarrow \infty\) (徑向無界)

即網路的乙個李雅普諾夫函式,可以使得某一起始點迭代達到某一種*衡點。由統計熱力學結論得來。

\[e(t)=-\fracx^t(t)wx(t)+x^t(t)t

\]\[e(t)=-\fracv^twv-i^tv+\sum^n_\frac\int^_0f^(v)dv

\]特點:當然有下界啦

\(\dot=f(wx-t)\),w為網路的連線,t為偏置,f為激勵

根據能量函式調整引數,使得總體能量最低。具體方法:

具有相似特徵的始點迭代收斂,可以落入臨*設定好的*衡點,迭代方式分為非同步調整和同步調整,迭代過程是乙個能量遞減的過程

特點迭代方式特點

迭代方式

Hopfield神經網路

import numpy as np import neurolab as nl import matplotlib.pyplot as plt 0 1 2 16 8 target np.array 0,0,0,0,0,0,0,0,0,0,0,1,1,0,0,0,0,0,1,0,0,1,0,0,0,...

hopfield神經網路

初次接觸hopfield神經網路,有一些約束沒有注意,導致生出很多愚蠢的想法。一 hopfield神經網路其實沒有層的概念,所有的神經元全連線就形成了乙個hopdield神經網路的基本結構。既然是全連線,那麼誰先誰後 誰左誰右就沒有意義了,反正都是互聯的。二 hopfield神經網路既然沒有層的概念...

Hopfield神經網路

多層神經網路 模式識別 相互連線型網路 通過聯想記憶去除資料中的雜訊 1982年提出的hopfield神經網路是最典型的相互鏈結型網路。當輸入模式為某種狀態時,輸出端要給出與之相應的輸出模式。如果輸入模式與輸出模式一致,稱為自聯想記憶,否則,稱為異聯想記憶。網路結構上,hopfield神經網路是一種...