來自李巨集毅的deep learning tutorial（ppt）的學習筆記，主要理解深度學習的概念以及工作原理等。
首先介紹機器學習，機器學習相當於就是需找乙個對映函式，將輸入資料對映到具體的某個資訊標籤，如下圖所示：
深度學習的框架大概分為三步，如下圖所示。
全連線前饋網路，乙個神經元的θ的確定，相當於確定乙個對映函式，而網路結構的確定，相當於確定了一系列的函式，也即是確定了模型。
毫無疑問，引數越多，網路的效能越好。對於一層隱含層的神經網路，只要給定足夠的神經元，就是實現任意的連續函式的對映。那為什麼要使用深度神經網路（多層隱含層，thin+tall），而不是乙個較胖的神經網路（乙個隱含層很多個神經元,fat+short）。
機器學習學習筆記
2.機器學習書籍 機器學習tom,這個是老經典，就是翻譯欠佳 prml，這個書正版的超貴，但是比較新且系統，可以通過其他途徑搞個副本。3.自己動手編碼實現2 3種經典演算法，比如svm，lr，bpnn等。4.了解spark上目前支援的機器學習方法的用途和用法，這個在日常工作中會用到。知道的多一點，方...
機器學習 學習筆記
關於梯度下降演算法的優化與 會有三種方法優化梯度下降演算法 1.共軛梯度下降法 conjugate 2.變尺度法 bfgs 3.限制變尺度法 l bfgs 這些方法的好處是 1.不用選擇學習速率 2.收斂的速度快，執行效率高 但是她們的缺點在於 實現她們的方法太複雜，所以我們就可以使用語言的內建庫函...
機器學習 學習筆記
監督學習 我們的學習演算法使用的資料是給出正確答案的資料，然後我們執行學習演算法，出更多的正確答案。理解為像深度需學習類似，利用訓練樣本訓練處學習模型，然後用測試樣本對學習到的模型進行檢測，輸出 結果。無監督學習 可以理解為對於學習演算法所使用的資料集並沒有給出正確答案，學習演算法就是要對這資料集進...