可以參考：
涉及：梯度、批量梯度下降、隨機梯度下降、小批量隨機梯度下降。
1. 前言
神經網路就是乙個輸入到輸出的對映關係，可以看作函式關係。
相近概念：支援向量機、線性回歸、非線性回歸、分類、識別、監督學習、資料集、標本、樣本、梯度下降。
2.基本原理
涉及的概念有：神經元、隱藏層、輸入、輸出層、啟用函式、偏置、梯度、學習率。
2.1 模型
其中：x：特徵值。
h(x)：假設函式。
n：自變數個數，即特徵值數量 。
2.2 代價函式、目標函式、損失函式
為了讓假設函式更好的擬合實際情況，建立價值函式，然後將訓練集資料代入，盡可能使該函式的所有結果盡可能小。
所有資料集（樣本）
神經網路筆記
感知機模型如下圖所示 輸入層接受多個二值輸入,輸出層提供乙個二值輸出 m p神經元 用數學公式來描述就是 y 0,1 jw jxj b 0 jwjx j b 0 這裡,y 是指輸出,xi 指輸入,wi 是輸入的權重,j 是輸入管腳個數,b是指偏移.多個感知機可以構成神經網路,如下圖 m p神經元的輸...
混沌神經網路學習筆記三
小世界網路 相對於同等規模節點的隨機網路，擁有比較短的平均路徑長度還有比較大的聚類係數特徵的網路模型。耦合 指兩個或者兩個以上的電路元件或電網路等的輸入和輸出之間有著緊密配合還有相互影響，並且通過相互作用從一側向另一側傳輸能量的現象。聯想記憶法 利用識記物件與客觀現實的聯絡 已知與未知的聯絡 材料內...
Tensorflow（三） 神經網路
1 前饋傳播 y x w1 b1 w2 b2 import tensorflow as tf x tf.constant 0.9,0.85 shape 1,2 w1 tf.variable tf.random normal 2,3 stddev 1,seed 1 name w1 w2 tf.vari...