在上次的學習筆記中說到，線性代數是神經網路所需要的的數學基礎，而且上次複習了線性空間相關知識，本章將**在神經網路中的線性變換。 在之前的學習筆記中說到的輸入向量與權值矩陣相乘是執行神經網路的重要操作，該操作就是線性變換的乙個具體例項。
1.線性變換
首先定義變換的概念。
變換乙個變換有三個部分
（1）乙個被稱為定義域的元素集合x=；
（2）乙個被稱為值域的元素集合y=；
（3）乙個將每個xi∈x和乙個元素yi∈y相聯絡的規則；
線性變換乙個變換a是線性的，如果
（1）對所有的x1，x2∈x，a（x1+x2）=a(x1)+a(x2);
（2）對所有的x∈x和a∈r，a（ax）=aa（x）
假設某個變換a是二維空間中將乙個向量旋轉θ角度（如圖1所示）圖2.3 表示該旋轉變換滿足線性變換定義中的條件1， 圖4 表示旋轉變換滿足線性變換定義中的條件2.由此可以看出，旋轉變換是乙個線性變化。
圖一
圖二
圖三
圖四
神經網路 卷積神經網路
這篇卷積神經網路是前面介紹的多層神經網路的進一步深入，它將深度學習的思想引入到了神經網路當中，通過卷積運算來由淺入深的提取影象的不同層次的特徵，而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數，從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象，我盡量在下面描述細緻一些，但如果要更深入了...
神經網路 卷積神經網路
1.卷積神經網路概覽 來自吳恩達課上一張，通過對應位置相乘求和，我們從左邊矩陣得到了右邊矩陣，邊緣是白色寬條，當畫素大一些時候，邊緣就會變細。觀察卷積核，左邊一列權重高，右邊一列權重低。輸入，左邊的部分明亮，右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡，下面這個圖左邊暗...
神經網路學習之 Hopfield神經網路
1982年，美國加州理工學院的優秀物理學家hopfield提出了hopfield神經網路。hopfield神經網路引用了物理力學的分析方法，把網路作為一種動態系統並研究這種網路動態系統的穩定性。dhnn 離散型hopfield神經網路 這是一種單層全反饋網路，共有n個神經元。其特點是任一神經元的輸出...