機器學習(第五章)

2022-07-21 05:12:12 字數 988 閱讀 8440

最普遍的定義是:神經網路是由具有適應性的簡單單元組成的廣泛並行互聯的網路,它的組織能夠模擬生物神經系統對真實世界物體做出的互動反應。

神經網路的最基本成分是神經元模型。在生物網路中,神經元的活動是以0或1的狀態存在的,乙個神經元可以接受多個神經元的訊號輸入,當所有輸入超出閾值時,接受輸入的神經元就會發放(興奮起來),然後向其他的神經元傳送訊號。只要沒有超出閾值,不管輸入的量有多大,該神經元都不會興奮、並向其他神經元傳送訊號。(神經元的輸入既可以是興奮性的也可以是抑制性的)

下圖即是在2023年提出的最簡化的抽象模型,

\[y=f(\sum_^n-\theta)

\]每個輸入和他們的權重的乘積的和,再減去閾值theta,就是該接受輸入的神經元的輸出了,這個輸出要麼為0,要麼為1.啟用函式(activation function)就是將輸入和閾值進行比較,然後決定是輸出0還是1的函式(即上圖中threshold t上方方框中的圖形所代表的函式-躍遷函式)。但是由於躍遷函式不連續,不光滑,所以實際多採用下方的sigmoid函式作為啟用函式使用。

在電腦科學中,乙個神經網路是包含了許多引數的數學模型,而這個數學模型又是由上述啟用函式這樣的若干個函式組成的。

感知機由兩層神經元組成,輸入層接受到訊號後傳遞給輸出層(m-p神經元),他也被稱為「閾值邏輯單元」,可以實現「與」、「或」、「非」的運算。

如上述m-p神經元抽象簡化模型。

當x>或=0時,y=1,當x<0時,y=0

與:如果$$w_1=w_2=1,\theta=2$$,僅在$$x_1=x_2=1$$時,$$y=f(w_1x_1+w_2x_2-\theta)=f(0)=1$$

或:如果$$w_1=w_2=1,\theta=0.5$$,當$$x_1=1或者x_2=1$$時,$$y=f(1x_1+1x_2-0.5)=1$$

非:如果$$w_1=-0.6;w_2=0,\theta=-0.5$$,在$$x_1=1$$時,$$y=f(-0.6*x_1+0+0.5)=f(-0.1)=0$$;在$$x_1=0$$時,$$y=f(0.5)=1$$

機器學習第五章

今天看了 機器學習 的第五章神經網路部分。本章主要講述的是 1.神經元是神經網路模型的最基本的單元 2.m p神經元模型包括輸入層 隱層和輸出層。2.1輸入訊號進行加權式的連線 2.2輸入層僅接受輸入,不進行函式處理,隱層和輸出層包含神經功能元 3.比較經典的神經網路的演算法是bp演算法 標準bp演...

python第五章 Python學習(第五章)

記錄所有的名片字典 card list defshow menu 顯示資訊 print 50 print 歡迎使用 名片管理系統 v1.0 print print 1.新增名片 print 2.顯示全部 print 3.搜尋名片 print print 0.退出系統 print 50 defnew ...

《機器學習》 周志華 (第五章學習筆記)

神經網路是由具有適應性的簡單單元組成的廣泛並行互連的網路,它的組織能夠模擬生物神經系統對真實世界物體所作出的互動反應 神經網路中最基本的成分是神經元模型,即 簡單單元 在生物神經網路中,每個神經元與其他神經元相連,當它 興奮 時,就會向相連的神經元傳送化學物質,從而改變這些神經元內的電位 如果某神經...