theano 是最早的深度學習框架之一，是乙個基於 python 語言、定位底層運算的計算庫，theano 同時支援 gpu 和 cpu 運 算。由於theano 開發效率較低，模型編譯時間較長，同時開發人員轉投tensorflow 等原因，theano 目前已經停止維護
scikit-learn 是乙個完整的面向機器學習演算法的計算庫，內建了常見的傳統機器學習演算法支援，文件和案例也較為豐富，但是 scikit-learn 並不是專門面向神經網路而設計的，不支援 gpu 加速，對神經網路相關層實現也較欠缺。
caffe 由華人博士賈揚清在 2013 年開發，主要面向使用卷積神經網路的應用場合，並不適合其他型別的神經網路的應用。caffe 的主要開發語言是 c++，也提供 python 語 言等介面，支援 gpu 和 cpu。由於開發時間較早，在業界的知名度較高，2017 年 facebook 推出了 caffe 的公升級版本 cafffe2，caffe2 目前已經融入到 pytorch 庫中
torch 是乙個非常優秀的科學計算庫，基於較冷門的程式語言 lua 開發。torch 靈活性 較高，容易實現自定義網路層，這也是 pytorch 繼承獲得的優良基因。但是由於 lua 語言使用人群較小，torch 一直未能獲得主流應用。
mxnet 由華人博士陳天奇和李沐等人開發，已經是亞馬遜公司的官方深度學習框 架。採用了命令式程式設計和符號式程式設計混合方式，靈活性高，執行速度快，文件和案例也較為豐富。
pytorch 是 facebook 基於原有的 torch 框架推出的採用 python 作為主要開發語言的深度學習框架，儘管 pytorch 在 2017 年才發布，但是由於精良緊湊的介面設計， pytorch 在學術界獲得了廣泛好評。在 pytorch1.0 版本後，原來的 pytorch 與 caffe2 進行了合併，彌補了 pytorch 在工業部署方面的不足。總的來說，pytorch 是乙個非常優秀的深度學習框架。
keras 是乙個基於 theano 和 tensorflow 等框架提供的底層運算而實現的高層框架， 提供了大量方便快速訓練，測試的高層介面，對於常見應用來說，使用 keras 開發效 率非常高。但是由於沒有底層實現，需要對底層框架進行抽象，執行效率不高，靈活性一般
tensorflow 是 google 於 2015 年發布的深度學習框架，最初版本只支援符號式程式設計。 得益於發布時間較早，以及 google 在深度學習領域的影響力，tensorflow 很快成為最流行的深度學習框架。但是由於 tensorflow 介面設計頻繁變動，功能設計重複冗餘， 符號式程式設計開發和除錯非常困難等問題，tensorflow 1.x 版本一度被業界詬病。2019 年，google 推出 tensorflow2 正式版本，將以動態圖優先模式執行，從而能夠避免 tensorflow 1.x 版本的諸多缺陷，已獲得業界的廣泛認可
深度學習的核心是演算法的設計思想，深度學習框架只是我們實現演算法的工具。
深度學習框架
近一年來，深度學習的風起雲湧，產生了許多令人興奮的成果，同時，深度學習框架也是百家爭鳴。經過這一年的觀察，tensorflow 似乎成為了一種潮流，並且越來越多的框架開始為 keras 提供支援，它可能會成為一種標準。今後選擇keras框架作為深度學習的目標。keras 被認為是構建神經網路的未來，...
華盛頓大學 初探深度學習
簡單的深度學習 通過修改對應的引數，表示邏輯問題 最基本的就是表示簡單的或門 和 與門 當要表示異或時，以上的就不夠了，還要再加一層，才可以表示 由於神經網路需要非常大量的資料，並且計算量極大 哪怕有gpu 如果資料不是 很多的情況下，該怎麼辦？用深度特徵 deep features 遷移學習 用深...
DeepMind 深度學習原理初探
去年11月，一篇名為 playing atari with deep reinforcement learning 的文章被初創人工智慧公司deepmind的員工上傳到了arxiv 兩個月之後，谷歌花了500萬歐元買下了deepmind公司，而人們對這個公司的了解僅限於這篇文章。近日，tartu大學...