什麼是深度學習
深度學習=深度神經網路+機器學習
人工智慧 > 機器學習 > 表示學習 > 深度學習
神經元模型
輸入訊號、加權求和、加偏置、啟用函式、輸出
全連線層
輸入訊號、輸入層、隱層(多個神經元)、輸出層(多個輸出,每個對應乙個分類)、目標函式(交叉熵)
待求的引數:連線矩陣w、偏置b
訓練方法:隨機梯度下降,bp演算法(後向傳播)
python中深度學習實現:keras
官網:keras中文文件
安裝:pip install keras
優點:高度整合和封裝,上手快、使用方便
內容:model、layer、objective、metric、optimizer、activation、initialization、regularizer
全連線層:dense
DL 16 深度學習架構清單
1.alexnet alexnet 是首個深度架構,它由深度學習先驅 geoffrey hinton 及其同僚共同引入。alexnet 是乙個簡單卻功能強大的網路架構,為深度學習的開創性研究鋪平了道路。實現 2.vgg net vgg 網路由牛津視覺化圖形組 visual graphics grou...
深度學習DL中優化方法總結
本文僅對一些常見的優化方法進行直觀介紹和簡單的比較,各種優化方法的詳細內容及公式只好去認真啃 了,在此我就不贅述了。此處的sgd指mini batch gradient descent,關於batch gradient descent,stochastic gradient descent,以及 m...
深度學習基礎 DL的侷限性
1 當資料量偏少,效果不好 2 資料不具有區域性相關特性。而對於不具有區域性相關特性的資料,沒法用特點的網路拓撲來捕捉了他的資訊,在深度學習中就只能用 mlp 來完成模型的訓練,而 mlp 的效果,一般要弱於 gdbt,randomforest 等傳統模型。3 從輸入到輸出的幾何變化大必須光滑且連續...