02深度學習筆記
神經網路的基礎程式設計basics of neural network programing
接觸一些新的專業術語
學會如何處理訓練集
前向暫停forward pause
前向傳播forward propagation
反向暫停backward pause
反向傳播backward propagation(在判別學習中使用它)
邏輯回歸logistic regression是乙個用於二分類binary classification的演算法
y冒 對實際值y的**
**中是否有貓
將不同訓練集樣本的資料提取出來,然後就像剛剛我們對x和y所作的那樣,將他們堆疊在矩
陣的列中,形成我們之後會在邏輯回歸和神經網路上要用到的符號表示。
玻爾茲曼機,可以應用於很大很密集的網路,你只會看到幾個結點,它會學習隱藏的表示。
無監督學習:wake-sleep演算法
監督學習,是區分性訓練discriminative training,使用有標籤的資料。
不要停止程式設計。
進行不順時,推導為什麼它不work。
符號約定
sigmoid
logistic regression cost function 邏輯回歸模型代價函式
損失函式loss function或叫做誤差函式error function
定義損失為y冒和y的平方差或者他們平方差的一半
多個區域性優先值
乙個不同的損失函式,它起著與平方誤差相似的作用,這些會給我們乙個凸的優化目標
深度學習 神經網路基礎 2
目錄 一 常用標記 樣本 x,y x 為輸入,y 為輸出 輸入 x x in mathbb 是乙個 n 維的特徵向量 輸出 y 取值為0或1 樣本數量 m 樣本空間 y x y x y 如何組織 按列來組織,每一列表示乙個樣本 矩陣 x x x x 矩陣 y y y y sigmoid函式 g z ...
(深度學習)神經網路基礎
一 神經網路定義 playground 通過這個位址了解神經網路 1.人工神經網路 artificial neural network,簡寫為ann 也簡稱為神經網路 nn 分別輸入層,輸出層以及隱藏層 2.特點 每個連線都有個權值,同一層神經元之間沒有連線,最後的輸出結果對應的層也稱之為全連線層 ...
機器學習,深度學習,神經網路,深度神經網路
先來說一下這幾者之間的關係 人工智慧包含機器學習,機器學習包含深度學習 是其中比較重要的分支 深度學習源自於人工神經網路的研究,但是並不完全等於傳統神經網路。所以深度學習可以說是在傳統神經網路基礎上的公升級。神經網路一般有輸入層 隱藏層 輸出層,一般來說隱藏層大於2的神經網路就叫做深度神經網路,深度...