判定邊界 判定邊界由那些使淨輸入為0的輸入向量確定
n=wp+b=0, 乙個雙輸入感知器網路,如果取權值為[1,1],則有p1+p2+b=0,其中p=[p1 p2],這是p1,p2平面上的一條直線.
該直線和權值向量w=[1,1]垂直.
感知器學習規則:(p42)
1.如果t=1,a=0 則w_new=w_old+p
2.如果t=0,a=1 則w_new=w_old-p
1.如果t=a 則w_new=w_old
用矩陣符號表示為
w_new=w_old+ep
b_new=b_old+e
其中e=t-a
hebb規則的輸出是接近的，而採用偽逆規則則能產生精確的結果。
應用hebb規則求權值矩陣w=p1p1'+p2p2'+p3p3'第7章應用例子，這個還需要再看看前面的知識。
這就是所謂的增量規則，又稱為windrow-hoff規則。因為它使用了期望輸出和實際輸出的差。
增量規則調整權值以使均方差為最小，因而它與偽逆規則得到相同的結果。增量規則的優點是每輸入乙個向量就可以
調整權值，而偽逆規則要等到所有的輸入輸出模式都已知後才計算一次規則。
神經網路設計原則
神經網路訓練完，會出現網路訓練不穩定 網路不收斂 梯度消失或 網路過擬合 不准或準確率低，可考慮以下方面 資料增強 隨機取樣 資料翻轉，隨機改變資料亮度 飽和度 對比度等 神經網路結構一般由輸入層 隱層 輸出層構成。輸入層的神經元個數是特徵維度，隱層是提取輸入特徵中隱藏的規律，輸出層的神經元個數是分...
神經網路設計過程
1.背景 輸出 y 中，1.01 代表 0 類鳶尾得分，2.01 代表 1 類鳶尾得分，0.66 代表 2 類鳶尾得分。通過輸出 y 可以看出數值最大 可能性最高 的是 1 類鳶尾，而不是標籤 0 類鳶尾。這是由於 最初的引數 w 和b 是隨機產生的，現在輸出的結 果是蒙的 為了修正這一結果，我們用...
BP神經網路設計
1 網路層數 大部分單個隱藏層即可 2 輸入層神經元個數 輸入變數的個數通常都是由問題的外部描述所確定的。例如，如果有4個外部變數作為網路的輸入，那麼網路就有4個輸入。但是，這是不是意味著輸入層的神經元個數就為4呢？答案是否定的 因為每個神經元的輸入可以有無數個，所以，通常當輸入變數較多的時候，輸入...