deep learning 的概念源於人工神經網路的研究。含多隱層的多層感知器就是一種深度學習結構。深度學習通過組合低層特徵形成更加抽象的高層表示屬性類別或特徵，以發現資料的分布式特徵表示。[1]
深度學習的概念由hinton等人於2023年提出。基於深信度網(dbn)提出非監督貪心逐層訓練演算法，為解決深層結構相關的優化難題帶來希望，隨後提出多層自動編碼器深層結構。此外lecun等人提出的卷積神經網路是第乙個真正多層結構學習演算法，它利用空間相對關係減少引數數目以提高訓練效能。[1]
深度學習是機器學習研究中的乙個新的領域，其動機在於建立、模擬人腦進行分析學習的神經網路，它模仿人腦的機制來解釋資料，例如影象，聲音和文字。
同機器學習方法一樣，深度機器學習方法也有監督學習與無監督學習之分．不同的學習框架下建立的學習模型很是不同．例如，卷積神經網路（convolutional neural networks，簡稱cnns）就是一種深度的監督學習下的機器學習模型，而深度置信網（deep belief nets，簡稱dbns）就是一種無監督學習下的機器學習模型。
[1] 孫志軍, 薛磊, 許陽明,等. 深度學習研究綜述[j]. 計算機應用研究, 2012, 29(8):2806-2810.把學習結構看作乙個網路，則深度學習的核心思路如下：
①無監督學習用於每一層網路的pre-train；
②每次用無監督學習只訓練一層，將其訓練結果作為其高一層的輸入；
③用自頂而下的監督演算法去調整所有層
說到深度學習，當然要說的就是神經網路。一些相關的機器學習概念，這裡就不再一一寫了，已經有些比較優秀的部落格大家可以自行查詢學習。這裡推薦乙個很不錯的深度學習教程，可以讓快速地了解相關概念及部分理論推導，相信不少人都已學習過：
本人也是剛接觸深度學習一年左右，關於深度學習已經有一些寫得很不錯的博文，為什麼還要寫呢，寫了說不定還沒有別人寫得好，也不一定會有人看，總是抱著這樣的想法就一直沒有動手。現在想想，每個人對的理解肯定會有不同或是說理解的深度、角度會存在不一，而且寫部落格是對自己檢驗，要是能幫助人那就更好不過了。於是現在開始動手了，新學期也給自己一點動力，一來可以讓自己把零碎的知識網路捋順，二來也可以督促自己的學習進度。
本系列主要寫出自己對神經網路的學習的一些見解，和大家一起學習討論。希望通過學習了解深度學習中整個神經網路的學習過程。最後能夠有一些改善、提高網路學習效率的想法。
Theano深度學習系列1
最近將英文原版書籍 python for data analysis 看完，也將 scikit learn cookbook 例子實現完，對基本的機器學習有一定的了解，下面來學習強大的python深度學習庫theano以及keras。import numpy import theano import...
深度學習實驗系列（1）
開篇貼上導師的幾句話 最近準備趁著幾位開題，把神經網路，深度學習方面的內容系統的挖挖。要學習深度學習，多少要了解一下神經網路，神經網路的典型就是bp，而bp本身是很簡單的。我們前面就從這幾個資料 關於資料，我會在接下來的內容中一一展開 開始吧。一 perception感知器演算法 先說一下感知器演算...
深度學習入門基礎概念（1）
自 csdn star先生 作者專欄 1 神經元 neuron 就像形成我們大腦基本元素的神經元一樣，神經元形成神經網路的基本結構。想象一下，當我們得到新資訊時我們該怎麼做。當我們獲取資訊時，我們一般會處理它，然後生成乙個輸出。類似地，在神經網路裡，神經元接收輸入，處理它並產生輸出，而這個輸出被傳送...