BP神經網路設計常用的基本方法和實用技術

2021-07-04 06:37:04 字數 412 閱讀 9729

儘管神經網路的研究和應用已經取得巨大成功,但在網路的開發設計方面至今仍沒有一套完善的理論做指導,應用中採取的主要設計方法是,在充分了解待解決問題的基礎上將經驗與試探相結合,通過多次改進性試驗,最終選出乙個較好的設計方案。下面是在開發神經網路中常用的基本方法和實用技術。

多層神經網路的分類能力與網路資訊容量相關,如果網路的權值和閾值總數nw表徵網路資訊容量,研究表明,訓練樣本數n與給定的訓練誤差ε之間應滿足以下匹配關係:

n = nw / ε.

上式表明網路的資訊容量與訓練樣本數之間存在合理匹配關係。在解決實際問題時,訓練樣本數常常難以滿足以上要求。對於確定的樣本數,網路引數太少則不足以表達樣本中所蘊含的全部規律即發生欠擬合;而網路引數太多,則可能發生過擬合,造成網路的泛化能力減弱。所以,通過上式根據設定的網路結構和誤差要求,可以評估一下大致需要多少訓練樣本。

BP神經網路設計

1 網路層數 大部分單個隱藏層即可 2 輸入層神經元個數 輸入變數的個數通常都是由問題的外部描述所確定的。例如,如果有4個外部變數作為網路的輸入,那麼網路就有4個輸入。但是,這是不是意味著輸入層的神經元個數就為4呢?答案是否定的 因為每個神經元的輸入可以有無數個,所以,通常當輸入變數較多的時候,輸入...

BP神經網路設計常用的基本方法和實用技術

儘管神經網路的研究和應用已經取得巨大成功,但在網路的開發設計方面至今仍沒有一套完善的理論做指導,應用中採取的主要設計方法是,在充分了解待解決問題的基礎上將經驗與試探相結合,通過多次改進性試驗,最終選出乙個較好的設計方案。下面是在開發神經網路中常用的基本方法和實用技術。多層神經網路的分類能力與網路資訊...

BP神經網路的基本理解

誤差反向傳播 error back propagation,bp 演算法 1 bp演算法的基本思想是,學習過程由訊號的正向傳播與誤差的反向傳播兩個過程組成。1 正向傳播 輸入樣本 輸入層 各隱層 處理 輸出層 注1 若輸出層實際輸出與期望輸出 教師訊號 不符,則轉入2 誤差反向傳播過程 2 誤差反向...