監督學習兩大類：分類問題，歸一問題
卷積神經網路相對於全連線神經網路的優點：有效地減少神經網路中引數個數
卷積層的引數個數和的大小無關，它只和過濾器的尺寸、深度以及當前層節點矩陣的深度有關
有效地縮小矩陣的尺寸，最後減少全連線層中的引數。既可以加快計算速度也有防止過擬合問題的作用
池化層過濾器中的計算採用最大值或平均值運算
池化層過濾器與卷積層的區別：卷積層的過濾器是橫跨整個深度的，而池化層使用的過濾器只影響乙個深度上的節點。所以池化層的過濾器出了在長和寬兩個維度移動之外，它還需要在深度這個維度移動
給定兩個概率分布p和q，通過q來表示p的交叉熵為：h(p,q)=-∑p(x)log q(x)
p代表的是正確答案，q代表的是**值
交叉熵刻畫了兩個概率分布之間的距離，交叉熵值越小，兩個概率分布越接近
cross_entropy = tf.nn.softmax_cross_entropy_with_logits(y,y_)
y代表了原始神經網路的輸出結果，y_給出了標準答案
初步認識神經網路
機器學習 讓機器 廣義上的計算機 通過學習來獲得類似人類的智慧型。例如 人類會下圍棋，alphago或alphago zero就是乙個掌握了圍棋知識 會下圍棋的電腦程式。神經網路 實現機器學習任務的一種演算法 數學模型。機器學習領域的神經網路，特指人工神經網路 其網路結構類似於生物神經系統，用來模擬...
神經網路 卷積神經網路
這篇卷積神經網路是前面介紹的多層神經網路的進一步深入，它將深度學習的思想引入到了神經網路當中，通過卷積運算來由淺入深的提取影象的不同層次的特徵，而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數，從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象，我盡量在下面描述細緻一些，但如果要更深入了...
神經網路 卷積神經網路
1.卷積神經網路概覽 來自吳恩達課上一張，通過對應位置相乘求和，我們從左邊矩陣得到了右邊矩陣，邊緣是白色寬條，當畫素大一些時候，邊緣就會變細。觀察卷積核，左邊一列權重高，右邊一列權重低。輸入，左邊的部分明亮，右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡，下面這個圖左邊暗...