機器學習早在20世紀50年代就已經很火了，它有著很長的歷史，主要指的是研究如何使用機器來模擬人類學習活動的一門學科。簡單的說，就是讓機器具備學習能力，就叫機器學習。機器學習是實現人工智慧的必經路徑。常見的機器學習演算法包括：
1）決策樹演算法
2）樸素貝葉斯演算法
3）支援向量機演算法
4）隨機森林演算法
5）人工神經網路演算法
6）boosting與bagging演算法
7）關聯規則演算法
8）em（期望最大化）演算法
神經網路如果前面沒有加字首，一般是指生物神經網路，生物神經網路指的就是動物大腦。我們的大腦由無數個(幾十上百億)神經元組成，這些神經元組成了乙個極其複雜的神經網路，這個神經網路就是我們大腦的核心，人類為什麼具備學習，思維及意識等，就是因為我們人類有著生物界最為強大的神經網路(即大腦)。我們有著這麼強大的神經網路，自然是全球科學家都希望能夠模擬的，如果能夠模擬成功，那麼機器也能夠跟人一樣，至少能夠具備學習能力，於是就有了人工神經網路。
深度學習的概念由hinton等人於2023年提出，hinton被譽為深度學習之父，不過深度學習的本質就是人工神經網路。曾經人工神經網路被社會各界不看好，很難獲得投資，因此2023年hinton就將這個以人工神經網路為本質的機器學習方法，改名為深度學習了。研究深度學習的動機在於建立模擬人腦進行分析學習的神經網路，它模仿人腦的機制來解釋資料，例如影象，聲音和文字等。深度學習是機器學習的一種。深度學習是一類模式分析方法的統稱，就具體研究內容而言，主要涉及三類方法：
(1)基於卷積運算的神經網路系統，即卷積神經網路(cnn)。是一種深度的監督學習下的機器學習模型。
(2)基於多層神經元的自編碼神經網路，包括自編碼( auto encoder)以及近年來受到廣泛關注的稀疏編碼兩類( sparse coding)。
(3)以多層自編碼神經網路的方式進行預訓練，進而結合鑑別資訊進一步優化神經網路權值的深度置信網路(dbn)。是一種無監督學習下的機器學習模型。
傳統意義上的多層神經網路是只有輸入層、隱藏層、輸出層。其中隱藏層的層數根據需要而定，沒有明確的理論推導來說明到底多少層合適。而深度學習中最著名的卷積神經網路cnn，在原來多層神經網路的基礎上，加入了特徵學習部分，這部分是模仿人腦對訊號處理上的分級的。卷積神經網路具體操作就是在原來的全連線的層前面加入了部分連線的卷積層與降維層，而且加入的是乙個層級。
輸入層->卷積層->降維層->卷積層->降維層– … –>隱藏層->輸出層。
簡單來說，原來多層神經網路做的步驟是：特徵對映到值。特徵是人工挑選。深度學習做的步驟是 訊號->特徵->值。 特徵是由網路自己選擇。
上面幾個概念的包含關係如下所示：
機器學習，深度學習，神經網路，深度神經網路
先來說一下這幾者之間的關係 人工智慧包含機器學習，機器學習包含深度學習 是其中比較重要的分支 深度學習源自於人工神經網路的研究，但是並不完全等於傳統神經網路。所以深度學習可以說是在傳統神經網路基礎上的公升級。神經網路一般有輸入層 隱藏層 輸出層，一般來說隱藏層大於2的神經網路就叫做深度神經網路，深度...
深度學習 深度神經網路
神經網路是由乙個個神經元相互連線並按層次排列構成的，深度神經網路是有任意層的神經網路，這裡的深度是指層次的多，而不是神經元數量的多。有任意層，那麼就要有乙個迴圈來負責遍歷每一層進行計算。所以深度神經網路的計算形式，就必須要適應這個迴圈結構。我們先來說說神經元吧 對於多神經元神經網路，其實也是一樣的。...
機器學習 神經網路
神經網路中最基本的成分是 神經元 模型，在生物神經網路中，每個神經元與其他神經元相連，當他 興奮 時，就會向相連的神經元傳送化學物質，從而改變這些神經元類的電位 如果某神經元的電位超過乙個 閾值 那麼他就會被啟用。將上述描述當成乙個數學模型 m p神經元模型，神經元接收來自n個神經元傳遞過來的輸入訊...