整理一下學習李巨集毅2020深度學習的課程筆記
1、machine learning (2020)_ course introduction【課程介紹】
2、regression【回歸分析】
3、basic concept【基礎概念】
4、gradient descent【梯度下降】
5、classification【分類】
6、logistic regression【邏輯回歸】
7、deep learning【深度學習】
8、convolutional neural network【卷積神經網路】
9、generative adversarial network【生成對抗網路】
10、conditional gan【條件生成網路】
11、cycle gan【迴圈生成網路】
深度學習目錄
一 機器學習基礎 1.線性代數 2.概率資訊理論 3.數值優化 二 深度學習基礎 1.深度學習介紹 2.感知器 3.人工神經網路 4.前饋神經網路 5.bp演算法 6.hessian矩陣 三 深度學習高階 卷積神經網路 1.cnn卷積神經網路 1 卷積層 一維卷積 二維卷積 2 池化層 均值池化 最...
深度學習筆記
在深度神經網路中，通常使用一種叫修正線性單元 rectified linear unit，relu 作為神經元的啟用函式。relu函式其實是分段線性函式，把所有的負值都變為0，而正值不變，這種操作被成為單側抑制。可別小看這個簡單的操作，正因為有了這單側抑制，才使得神經網路中的神經元也具有了稀疏啟用性...
深度學習筆記
如果沒有啟用函式，或則是線性啟用函式，g z z,那麼在深度神經網路中，相當於都做的是線性變換，多個線性變換的組合還是線性變換。這樣的結果和邏輯回歸沒什麼區別，也就是說，這種情況下，無論神經網路的深度有多深，也就等價於乙個一層的網路，隱藏層沒什麼作用。因此需要非線性啟用函式。1.什麼時候插入，ski...