機器學習第五章

2021-08-11 01:57:41 字數 557 閱讀 1074

今天看了《機器學習》的第五章神經網路部分。本章主要講述的是:

1.神經元是神經網路模型的最基本的單元

2.m-p神經元模型包括輸入層、隱層和輸出層。

2.1輸入訊號進行加權式的連線

2.2輸入層僅接受輸入,不進行函式處理,隱層和輸出層包含神經功能元

3.比較經典的神經網路的演算法是bp演算法(標準bp演算法、累積bp演算法)。一般情況下的bp演算法網路指的是訓練多層(指的是隱層的層數)前反饋神經網路。

4.為緩解bp演算法經常遭遇的過擬合的現象,經常使用的方法是:「早停」和「正則化」。

5.區域性極小和全域性最小的問題就是在乙個連續的函式表示式中極小值和最小值的問題。其目的就是使得神經網路訓練集上的誤差e(是關於連線權w和閾值的函式)達到最小。學術上稱之為引數尋優,也就是說要在引數尋優的過程中希望找到全域性最小(即e的最小值)。

6.遺傳演算法通常用來訓練神經網路以更好的逼近全域性最小。

7.經典的深度學習模型就是深層次的神經網路。為提高模型的容量,做法是增加隱層的數量。

8.在訓練模型時,對隱層進行預訓練,然後用bp演算法對整個神經網路進行微調,以達到全域性最優的效果。

機器學習(第五章)

最普遍的定義是 神經網路是由具有適應性的簡單單元組成的廣泛並行互聯的網路,它的組織能夠模擬生物神經系統對真實世界物體做出的互動反應。神經網路的最基本成分是神經元模型。在生物網路中,神經元的活動是以0或1的狀態存在的,乙個神經元可以接受多個神經元的訊號輸入,當所有輸入超出閾值時,接受輸入的神經元就會發...

python第五章 Python學習(第五章)

記錄所有的名片字典 card list defshow menu 顯示資訊 print 50 print 歡迎使用 名片管理系統 v1.0 print print 1.新增名片 print 2.顯示全部 print 3.搜尋名片 print print 0.退出系統 print 50 defnew ...

《機器學習》 周志華 (第五章學習筆記)

神經網路是由具有適應性的簡單單元組成的廣泛並行互連的網路,它的組織能夠模擬生物神經系統對真實世界物體所作出的互動反應 神經網路中最基本的成分是神經元模型,即 簡單單元 在生物神經網路中,每個神經元與其他神經元相連,當它 興奮 時,就會向相連的神經元傳送化學物質,從而改變這些神經元內的電位 如果某神經...