本次部落格接上次的部落格,繼續闡述感知機的學習規則。在學習規則徹底學習結束,將用matlab進行簡單實踐。
#學習規則的構造
為了完成上次部落格所提到的測試問題,需要對學習規則進行構造,在訓練開始時,為網路的引數賦予一些初始值。這裡僅需對其兩個權值進行初始化。
然後將輸入向量提供給網路。
但是網路沒有返回正確的值。從圖中可以i看出判定邊界的權值向量導致了對向量p1的錯誤分類的判定邊界。所以我們與要把它調整的更多的指向p1.才能更可能的得到正確的分類結果。
##調整方法(1)
令1w等於p1。這種方法雖然可以解決這個問題,但是隨便找乙個別的簡單問題,很容易就費雷錯誤。
##調整方法(2)
這種方法是將p1加上1w上。這樣會使1w只想更加偏向p1.這一規則可表示為:
在上述問題中應用這個規則,得到了新的1w的值:
現在考慮另乙個輸入向量,並繼續對權值進行調整。不斷重複這一過程,直到所有輸入向量被正確分類。
如圖表明該感知機最終可以對上述三個輸入向量進行正確分類。通過上述各種嘗試最後可以總結出三條規則:
參考文獻
[1] hagan m , hagan, 戴葵. 神經網路設計[m]. 機械工業出版社, 2002.
神經網路設計學習筆記(7) 感知機學習規則(5)
上次部落格總結了三條規則,這次接上回的部落格繼續闡述。統一的學習規則 上次部落格總結的三個規則可以總結為乙個表示式。上圖 首先將感知機的誤差定義為乙個新的變數e e t a 現在可將式中三條規則重寫 仔細觀察可以發現上邊的前兩條規則,可以發現p的符號和誤差e的符號一致。在第三條規則中,由於e 0,所...
神經網路 感知機
受生物學的啟發,人工神經網路是有一系列簡單的單元互相緊密聯絡構成的,每個單元有一定數量的實數輸入和唯一的實數輸出。神經網路的乙個重要的用途就是接受和處理感測器產生的複雜輸入並行進行自適應的學習。人工神經網路演算法模擬生物神經網路,是一種模式匹配演算法,通常用於解決分類和回歸問題。人工神經網路是機器學...
神經網路學習筆記(一) 單層感知機
神經網路分為從傳播來講分為兩種 1.前饋神經網路 前向網路 2.反饋神經網路 前向網路沒有反饋機制,也就是自能向前傳播而不能反向傳播來調整權值引數。感知機就屬於前向網路。如上圖 乙個輸入層,乙個輸出層,中間的所有隱層都是向前傳播。感知機是美國學者f.rosenblatt提出的,他對最早提出的mp不一...