說深度學習就不得不提geoffrey hinton。
一、geoffrey hinton是何許人？
geoffrey hinton是deep learning（深度學習）方面的領軍人物，是世界上機器學習與人工智慧領域傑出研究者之一。
geoffrey hinton是英國劍橋大學實驗心理學學位獲得者，後來獲得人工智慧博士學位，他同時也是倫敦大學gatsby神經計算科學部門的創始董事。他研究利用神經網路的學習、記憶、知覺和符號處理的方法而聞名世界，並在這個領域有超過200種出版物。
geoffrey hinton目前主要研究領域包括現代科學尖端領域的機器學習，以及機器如何在龐大、複雜的資料中執行辨認功能，他在這些方面的領先研究幫助谷歌在神經網路學習以及語音方面前進了不止一大步。
二、geoffrey hinton和深度學習
深度學習簡介
深度學習概念最早由geoffrey hinton等人在2023年提出。它是機器學習研究中的乙個新的領域，其動機在於建立、模擬人腦進行分析學習的神經網路，它模仿人腦的機制來解釋資料，例如影象，聲音和文字。深度學習是無監督學習的一種。
深度學習的概念源於人工神經網路的研究。含多隱層的多層感知器就是一種深度學習結構。深度學習通過組合低層特徵形成更加抽象的高層表示屬性類別或特徵，以發現資料的分布式特徵表示。
深度學習基於深信度網(dbn)提出非監督貪心逐層訓練演算法，為解決深層結構相關的優化難題帶來希望，隨後提出多層自動編碼器深層結構。此外lecun等人提出的卷積神經網路是第乙個真正多層結構學習演算法，它利用空間相對關係減少引數數目以提高訓練效能。
基礎概念
深度(depth)
從乙個輸入中產生乙個輸出所涉及的計算可以通過乙個流向圖(flow graph)來表示：流向圖是一種能夠表示計算的圖，在這種圖中每乙個節點表示乙個基本的計算並且乙個計算的值(計算的結果被應用到這個節點的孩子節點的值)。考慮這樣乙個計算集合，它可以被允許在每乙個節點和可能的圖結構中，並定義了乙個函式族。輸入節點沒有孩子，輸出節點沒有父親。
這種流向圖的乙個特別屬性是深度(depth)：從乙個輸入到乙個輸出的最長路徑的長度。
傳統的前饋神經網路能夠被看做擁有等於層數的深度(比如對於輸出層為隱層數加1)。svms有深度2(乙個對應於核輸出或者特徵空間，另乙個對應於所產生輸出的線性混合)。
需要使用深度學習解決的問題有以下的特徵：
深度不足會出現問題。
人腦具有乙個深度結構。
認知過程逐層進行，逐步抽象。
深度不足會出現問題
在許多情形中深度2就足夠表示任何乙個帶有給定目標精度的函式。但是其代價是：圖中所需要的節點數(比如計算和引數數量)可能變的非常大。理論結果證實那些事實上所需要的節點數隨著輸入的大小指數增長的函式族是存在的。
我們可以將深度架構看做一種因子分解。大部分隨機選擇的函式不能被有效地表示，無論是用深地或者淺的架構。但是許多能夠有效地被深度架構表示的卻不能被用淺的架構高效表示。乙個緊的和深度的表示的存在意味著在潛在的可被表示的函式中存在某種結構。如果不存在任何結構，那將不可能很好地泛化。
大腦有乙個深度架構
例如，視覺皮質得到了很好的研究，並顯示出一系列的區域，在每乙個這種區域中包含乙個輸入的表示和從乙個到另乙個的訊號流(這裡忽略了在一些層次並行路徑上的關聯，因此更複雜)。這個特徵層次的每一層表示在乙個不同的抽象層上的輸入，並在層次的更上層有著更多的抽象特徵，他們根據低層特徵定義。
需要注意的是大腦中的表示是在中間緊密分布並且純區域性：他們是稀疏的：1%的神經元是同時活動的。給定大量的神經元，仍然有乙個非常高效地(指數級高效)表示。
認知過程逐層進行，逐步抽象
人類層次化地組織思想和概念；
人類首先學習簡單的概念，然後用他們去表示更抽象的；
工程師將任務分解成多個抽象層次去處理；
學習/發現這些概念(知識工程由於沒有反省而失敗？)是很美好的。對語言可表達的概念的反省也建議我們乙個稀疏的表示：僅所有可能單詞/概念中的乙個小的部分是可被應用到乙個特別的輸入(乙個視覺場景)。[1][3]
深度學習的核心思想
把學習結構看作乙個網路，則深度學習的核心思路如下：
①無監督學習用於每一層網路的pre-train；
②每次用無監督學習只訓練一層，將其訓練結果作為其高一層的輸入；
③用監督學習去調整所有層
三、深度學習的成功應用
1、 語音識別
微軟研究人員通過與hintion合作，首先將rbm和dbn引入到語音識別聲學模型訓練中，並且在大詞彙量語音識別系統中獲得巨大成功，使得語音識別的錯誤率相對減低30%。
2、 智慧型手機的語音搜尋
3、 識別
深度學習，正在幫助人工智慧走得更遠！
深度學習幫助人工智慧走得更遠
說深度學習就不得不提geoffrey hinton。一 geoffrey hinton是何許人？geoffrey hinton是deep learning 深度學習 方面的領軍人物，是世界上機器學習與人工智慧領域傑出研究者之一。geoffrey hinton是英國劍橋大學實驗心理學學位獲得者，後來獲...
人工智慧,機器學習,深度學習
所謂人工智慧，通俗地講是指由人工製造出來的系統所表現出來的智慧型 機器學習簡單來講就是通過演算法，使機器能從大量歷史資料中學習規律，從而對新的樣本做出智慧型識別或對未來做 機器學習是基於概率統計 矩陣或圖模型而得出的分析結論 機器學習是人工智慧的乙個分支 深度學習是機器學習的乙個新領域 監督學習 邏...
python深度學習 人工智慧雜記
人工智慧的簡潔定義如下 努力將通常由人類完成的智力任務自動化。早期的西洋棋程式僅包含程式設計師精心編寫的硬編碼規則，並不屬於機器學習。在相當長的時間內，許多專家相信，只要程式設計師精 心編寫足夠多的明確規則來處理知識，就可以實現與人類水平相當的人工智慧。這一方法被稱為符號主義人工智慧 symboli...