時至今日，絕大多數神經網路都包含以下的核心原則：深度學習從發現到發展，仍能屹立的部分原因： 在機器學習的眾多研究方向中，表徵學習關注如何自動找出表示資料的合適方式，以便更好地將輸入變換為正確的輸出。
深度學習是具有多級表示的表徵學習方法。在每一級（從原始資料開始），深度學習通過簡單的函式將該級的表示變換為更高階的表示。因此，深度學習模型也可以看作是由許多簡單函式復合而成的函式。當這些復合的函式足夠多時，深度學習模型就可以表達非常複雜的變換。
特徵提取的方法：
古老的，canny邊緣檢測，sift特徵提取
新快的，深度學習的自動化逐級高階特徵提取（自動優化的逐級過濾器）
深度學習的特點：
動手學深度學習打卡筆記1
資料基礎 張量和梯度 tensor 張量 可以看成是乙個多維陣列。標量是0維張量，向量是1維張量，矩陣則是2維張量。在深度學習中涉及到大量的矩陣和向量的相互計算 向量計算的速度更快 在pytorch中，torch.tensor是儲存和變換資料的主要工具。除了基本的矩陣向量 同形 的計算之外，對於不同...
筆記 動手學深度學習
在求數值解的優化演算法中，小批量隨機梯度下降 mini batch stochastic gradient descent 在深度學習中被廣泛使用。它的演算法很簡單 先選取一組模型引數的初始值，如隨機選取 接下來對引數進行多次迭代，使每次迭代都可能降低損失函式的值。在每次迭代中，先隨機均勻取樣乙個由...
動手學深度學習讀書筆記 1
深度學習簡介 應用深度學習的關鍵 問題的動機和特點 將大量不同型別神經網路層通過特定方式組合在 起的模型背後的數學原理 在原始資料上擬合極複雜的深層模型的優化演算法 有效訓練模型 避免數值計算陷阱以及充分利用件效能所需的工程技能 為解決方案挑選合適的變數 超引數 組合的經驗。絕大多數神經網路都包含以...