深度學習(deep learning)這個詞最近藉著alphago與李世石的人機大戰又火了一把。深度學習其實是機器學習(machine learning)的乙個分支學科,而機器學習是一門研究資料之間關聯關係的學科,比如它可以用來挖掘收入和年齡,性別,職業,學歷等因素的數學關係。但是傳統的機器學習方法一般只能挖掘簡單的線性關係。我們知道大千世界不是線性關係所能描述的,比如收入與年齡,性別,職業,學歷的關係,這麼乙個簡單的問題就不是乙個線性關係所能表達清楚的。深度學習的出現改變了這種現狀,深度學習使用複雜的多非線性模型表示資料之間的關係,然後使用大量的資料最終確定資料之間的關係究竟是什麼。
深度學習的靈感**於大腦神經網路,可以說我們的大腦就是乙個極致複雜的深度學習模型。大腦裡的神經網路是由數以千億計的神經元連線而成,深度學習也使用同樣的結構,每個人工神經元對輸入進行簡單的線性或非線性運算後將結果傳遞給後續的神經元,在經過這樣十幾層乃至上百層的傳遞後得到最終的**結果。
深度學習這套方法並不是近幾年提出的,早在80年代末geoffrey hinton和yann lecun等學者就使用深度學習的方法解決了手寫體數字的識別問題。遺憾的是,進入90年代後深度學習的效能沒有本質上的提公升,甚至劣於很多簡單的線性模型,深度學習的研究沉寂下來。直到2023年,hinton教授在science上發表了深度學習的里程碑一樣的**,重新審視深度學習方法,將深度學習的效能提公升到了乙個新的台階。在此之後,深度學習在語音識別,計算機視覺,機械人,自然語言處理等領域均超過了傳統的機器學習方法,甚至在人臉驗證比賽lfw和自然影象分模擬賽imagenet上超過了人類的識別能力。這次,alphago擊敗李世石又是乙個深度學習超越人類的例項。
那麼是什麼讓深度學習再次崛起並超越人類呢?
當然首先要歸功於hinton等學者幾十年如一日的不懈研究。另外,有兩個客觀因素異常重要:
第一是大資料
第二是高效能計算
摩爾定律揭示了計算能力增長速度的規律,過去這些年gpu,超級計算機和雲計算等計算平台迅猛發展,讓深度學習的實現成為可能,舉個例子,2023年 googlebrain用了1000臺機器、16000個cpu處理的深度學習模型大概有10億個神經元,而現在我們已經可以在幾個gpu上完成同樣的計算了。事實上,深度學習已經進入我們的口袋了,我們的智慧型手機上的gpu已經可以執行一些複雜度一般的深度學習方法了。我想過不了多久,我們每乙個人都可以在手機上和alphago對弈了,再過些年,我們的手機就就可以執行像人腦一樣複雜的神經網路了。
深度學習不只是和人下下棋這麼簡單。既然它是對人腦的一種模擬,它可以完成很多人腦的功能。
深度學習也深刻改變著機械人領域。剛才說的基於深度學習的視覺和語音識別的能力可以幫助機械人更好地感知世界。除此之外,深度學習還和增強學習(reinforcement learning)相結合。
所謂增強學習指機械人通過與環境互動中得到的獎賞和懲罰自主學習(self learning)更優策略。舉個簡單的例子,alphago就是乙個增強學習的產物,它通過跟其他棋手下棋或者和自己對弈的輸贏情況自主學習更好的下棋策略。而深度學習的引入,使得增強學習方法可以找到更加複雜的策略。從alphago完勝李世石可以看出,深度學習+增強學習已經有能力讓機械人在相當複雜的環境下自主學習到高度優化的決策策略。
以上的這些應用只是我們平時看得見的,還有很多深度學習的應用則在我們的視線之外影響世界。網際網路搜尋、廣告推薦、金融量化交易、機器翻譯、醫療大資料分析、智慧型法律諮詢……可以說凡是需要從大量資料中**未知資訊的領域都是深度學習可以一展拳腳的地方。未來,以深度學習為代表的人工智慧技術也許會像蒸汽機、電動機、計算機、網際網路一樣推動新一輪科技革命,讓生產力再上乙個台階。
當然,作為乙個從業者,我同時害怕深度學習遭到捧殺,尤其是alphago讓大眾熟知了這樣一項技術後。深度學習才剛剛起步,就像嬰兒剛剛學會走路,我們固然可以暢想他以後成為偉人,但畢竟很多技術還不成熟,相當一部分應用還難以讓人滿意,甚至在未來很長時間內都難以做到。人工智慧的發展需要的不是大家一股腦的熱情,而是持久的投入和努力。
深度學習是什麼?
深度學習是什麼?深度學習是神經網路模型與用資料程式設計思想的統一。神經網路的原則是什麼?1 交替使用線性處理單元與非線性處理單元。它們被叫做 層 2 使用鏈式法則 反向傳播 來更新網路引數。機器學習與深度學習的關係?深度學習是機器學習下的表徵學習的一種方式。機器學習關注的是如何利用已有經驗改善系統 ...
深度學習是什麼?
人工智慧,就好像第四次工業革命,正從學術界的私藏,轉變為一種能夠改變世界的力量。尤其,以深度學習取得的進步為顯著標誌。它讓匍匐前進60年的人工智慧一鳴驚人。我們正降落到一片新大陸。深度學習帶 人工智慧,就好像第四次工業革命,正從學術界的私藏,轉變為一種能夠改變世界的力量。尤其,以深度學習取得的進步為...
深度學習的發展歷史是什麼?
深度學習的歷史可以追溯到1943年,當時walter pitts和warren mcculloch建立了基於人腦神經網路的計算機模型。他們將演算法和數學方法結合在一起,稱之為 閾值邏輯 以模仿思維過程。自那時以來,深度學習一直在穩步發展,其發展只有兩個重大突破。兩者都與臭名昭著的人工智慧冬天有關。亨...