公開信發表後，已有數千人在上面簽名。其中不乏來自谷歌、facebook、微軟等頂尖人工智慧研究機構的科學家。同時來自全世界的物理學家、哲學家也在上面留下了自己的名字。
《quanta》雜誌採訪了stuart，詢問了他對當前人工智慧發展的幾點看法。讓我們來看看該領域的大師如何評價這一革命性技術吧。
quanta：你為什麼堅持人工智慧研究必須以可證實對人類有益為前提？
stuart：我認為這是乙個錯誤的問題，因為「人類價值」不能被「證實」。當然，人類價值本身也沒有準確的定義，誰又知道人類為什麼存在呢，可能這永遠都是個迷。但考慮到我們人類的行為的意義，你會希望機械人至少能體會到其中的大部分精髓。人工智慧可能不能完全理解我們的所作所為，但它們至少要和我們站在同一戰線上，有著共同的基本原則。換句話說，它們不能成為我們的絆腳石甚至傷害我們。
quanta：你打算怎麼實現這一點？
stuart：我現在正在這方面努力。目前我覺得一種名為「逆強化學習」的技術可以派上用場。平常的學習原理很簡單，基於你的表現好壞，你會得到獎勵或者懲罰，你的目標也很明確，就是想方設法獲得盡可能多的獎勵。atari的遊戲就是乙個這樣的典型的系統。逆向學習則是完全相反的過程，你首先得到結果，然後你去思考什麼樣的行為最可能帶來這樣的結果。比如，你的機械人看到你早上艱難的從床上爬起來，衝了一杯咖啡，在乙個嗡嗡作響的箱子裡加熱了點煎餅，而且在吃這些東西時你臉上浮現出了愉快的深情，那麼它的人工智慧就會告訴它：人早上喝咖啡是好的。
逆強化學習有著海量的資料可以使用，無論是書籍、電影還是網路，上面有著成千上萬的人類活動記錄，智慧型體可以從中感受到人類追求的基本價值和遵循的基本原則。
quanta：你的研究生涯主要關注了理解人工智慧是什麼，並認為這是實現人工智慧的前提。那麼你目前有什麼收穫呢？
stuart：在八十年代的研究中我開始思考理性決策的問題，後來我發現這是乙個不可能完成的任務。如果你是理性的，你會判斷自己目前的狀況、可選擇做法、每種做法帶來的結果，但是又有哪一種做法是百分之百確保得到想要的結果的呢？世界上的事情變化多的讓人眼花繚亂，沒有那麼多事是確定的。理性行為的定義就要求你的能力蓋過整個未來和宇宙，換句話說，它在計算上是不可能的。所以我換了思路：那麼人類是怎樣做決定的呢？
quanta：人類怎麼做的？
stuart：人類的大腦是一部效率驚人的概率運算機器。它的訣竅不是準確掌握每一條資訊，而是對未來有乙個大概的**，並推測最可能帶來好結果的做法。拿下棋來說，如果是理性決策的人，他就只會走那些可以將軍的棋子。現實中沒有人這麼下棋，人們不會考慮十幾步之後的事情，他們會考慮幾個可能的走法，看哪一種最可能帶來優勢。人一生大約會做20萬億的動作，做一次演講會有13億個動作，理性決策要求你**13億個動作後的準確狀況，這太瘋狂了。我們從不會想「我要先邁左腳再動右腳，再開啟門……」而是想「我該去做演講了」。
quanta：你可以證明人工智慧系統不會重寫自己的軟體，覆蓋人類預設的目標嗎？
quanta：目前有什麼很有前景的研究領域嗎？
stuart：最近出現了一種叫做「網路現實系統」的研究領域，它們的研究內容是計算機與現實世界相聯，讓電腦通過網路控制機器手臂等等。許多電影中出現了人工智慧掌控交通的劇情，也是該領域的研究內容。另外，空中交通管制也是其應用的一種。（岳恆）
人工智慧簡史 人工智慧簡史
人工智慧簡史 在人工智慧的早期，計算機科學家試圖在計算機中重建人類思維的各個方面。這就是科幻 中的智力型別，即或多或少像我們一樣思考的機器。毫無疑問，這種型別的智慧型稱為可理解性。具有可理解性的計算機可用於探索我們如何推理，學習，判斷，感知和執行腦力活動。可懂度的早期研究集中於在計算機中對現實世界和...
人工智慧大會論壇 人工智慧會「放過」藝術嗎
人說文章伯，工夫豈自由。智愚真可學，能賦未央樓。談到科技與藝術的關係，清華大學人工智慧實驗室的張敏教授優雅地唸出這首詩，很是陶醉。接著她說 這是我們學校研發的詩歌生成系統寫的。過去兩年，在人工智慧的風潮下，人們相繼看到了谷歌deepdream專案作的畫 小冰寫的詩 聽到了magenta專案創作的流行...
人工智慧基礎 什麼是人工智慧
人工智慧是一門研究如何構造智慧型機器 智慧型計算機 或智慧型系統，使它們能夠模擬 延伸和拓展人類智慧型的學科。個人理解就是 研究人的智慧型，並且把人的智慧型放到機器上面，代替人思考。人工智慧發展簡史 孕育階段 1.亞里斯多德三段論 2.英國哲學家培根 知識就是力量。3.萊布尼茨 建立一種通用的符號語...