之前研討會各種聽老闆和師兄談論deep learning的話題，自己也就聽一聽，這段時間出於了解**的目的仔細研究了一下，感覺內部挺複雜的，不過若只是需要了解原理，其實還比較簡單。
深度學習與以往的機器學習方法不同之處在於，它並非是乙個具體的方法或者系統，而僅僅只是乙個理論體系，假設我們有乙個系統s，它有n層（s1,…sn），它的輸入是i，輸出是o，形象地表示為： i =>s1=>s2=>…..=>sn => o，如果輸出o等於輸入i，即輸入i經過這個系統變化之後沒有任何的資訊損失，設處理a資訊得到b，再對b處理得到c，那麼可以證明：a和c的互資訊不會超過a和b的互資訊。這表明資訊處理不會增加資訊（大部分處理會丟失資訊。當然了，理想情況是丟掉的都是沒用的資訊）。保持了不變，這意味著輸入i經過每一層si都沒有任何的資訊損失，即在任何一層si，它都是原有資訊（即輸入i）的另外一種表示。
而深度學習的思想，就是通過建立多個中間層，從輸入層開始逐層抽象，每一層的輸出都是下一層的輸入。理想情況下，這樣乙個系統就如同人的認知過程一樣，從看到的事物開始逐層抽象化，直到最後形成大腦中的知識。
另外需要注意的是，深度學習往往是以神經網路為實現方式的，但根據這幾天的查閱，發現神經網路並非是唯一的方式，還有複雜多項式巢狀，以及詞向量等方式，沒有具體去了解，就不細究了。
深度學習入門學習筆記01
首先就由乙隻小貓帶咱們走進深度學習的世界吧！對於乙個輸入樣本來說，深度學習和機器學習有著相同的目的，就是要把這個樣本進行最準確的分類。咱們從肉眼看很容易這是乙隻貓，因為我們有著這麼多年的積累常識嘛！但是計算機可不這麼聰明一眼就能看得出來，在計算機中，乙個影象是由畫素點所構成的。這裡可能有同學對於計算...
深度增強學習入門筆記（一）
知乎專欄智慧型單元的學習筆記，僅為自己學習所用，侵刪。openai的三個主要研究方向 1.深度生成模型 deep generative model 通過學習現有的資料生成新的資料。相關研究 1 otoro.net 學習文字自動生成新的文字 2 deep dream neural art 畫風遷移 3...
深度增強學習入門筆記（二）
知乎專欄智慧型單元的學習筆記，就真的只是一邊看一邊記的而已，僅為自己學習所用，侵刪。是增強學習領域最重要的乙個方程。使用價值函式進行決策就需要計算這個函式，那怎麼計算呢？bellman方程。簡而言之，bellman方程的作用 表明價值函式是可以迭代進行計算的。將價值函式的公式 a 表示，s代表狀態，...