展望人工智慧的未來

我們的未來將不可避免的與人工智慧綁在一起，那麼人工智慧將朝向哪個方向發展呢？對於人工智慧未來的發展，我們最好的猜想有哪些（近期和遠期）？如果真的創造出乙個有意識的人工智慧，又會有哪些倫理性和實踐性的思考？在這個投機的社會，人工智慧應該被賦予權利，又或是被人們忌憚？

上週，我們討論了人工智慧的過去及其現狀——關於當代人工智慧，弱人工智慧與強人工智慧和通用人工智慧（以下簡稱 agi）三者的差異，還有一些有關意識構成的哲學思想。弱人工智慧早已滲透在我們的生活中，主要以專門用來智慧型地執行特定任務的軟體的形式。強人工智慧則是最終目標，而真正的強人工智慧甚至更像是我們從一些虛構**中所熟悉的那樣。

許多人工智慧研究者終其一生，都在努力向 agi 接近。儘管 agi 不一定具有任何形式的意識，它卻能處理任何與資料相關的工作。當然，人類總是有試圖**未來的天性，這也正是我們即將討論的內容。對於人工智慧未來的發展，我們最好的猜想有哪些（近期和遠期）？如果真的創造出乙個有意識的人工智慧，又會有哪些倫理性和實踐性的思考？在這個投機的社會，人工智慧應該被賦予權利，又或是被人們忌憚？

研究者對人工智慧在未來的發展所持的樂觀態度在這幾年有了變化，當代專家之間也存在著激烈的爭論。在之前的文章中提到的 trevor sands 是 lockheed martin 公司的一名人工智慧研究者，對此，他有著自己謹慎的觀點。他強調他的言論只是代表他個人，與他的雇主無關。他這樣說到：

自從 agi 作為乙個概念被提出以來，研究者（和那些樂觀主義者）一直堅持說它「馬上就要來了」。而我個人認為，agi 將在未來半個世紀內出現，因為硬體趕上了理論。有更多的公司會看到人工智慧進步的潛力。實際上，對人工智慧的持續而努力的研究最終的結果就是 agi。

我希望在我有生之年就可以看到 agi。至少我希望機器智慧型可以發展到人們要討論它們是不是真的有意識。這實際上意味著乙個更困難的問題。如果感知意味著「自我意識」，那麼不難想象它是乙個有自我模型的智慧型機器。

sands 和 albert 都堅信對神經網路和深度學習的現有研究路線是正確的，在不久的將來也極有可能引領著 agi 的發展。在過去，人們要麼只關注雄心勃勃的強人工智慧，要麼只關注範圍有限的弱人工智慧。agi 的中間地帶，特別是由神經網路表現的中間地帶，似乎是到目前為止最有成效的研究，也最有可能使人工智慧在未來幾年更進一步。像 google 這樣的大公司肯定是這樣認為的。

無論何時談起人工智慧，總是有兩個最重要的問題：它將如何影響人類，我們應該怎樣對待它？大眾的想法常常會受到虛擬**的影響，科幻**中也確實包含和這些問題有關的例子。乙個足夠卓越的人工智慧會不會像 skynet 中那樣試圖去消除人性？又或者，人工智慧是否應被賦予權利，來避免出現像 artifical intelligence:a.i. 裡的暴行？

在這兩種情況下，有乙個共同的主題，就是技術奇點是因真正的人工智慧的出現而產生的。技術奇點被定義為在非常短的時間內發生的非常大的進步。意味著，人工智慧可以進行自我提公升，或者生產出更先進的人工智慧。因為這發生的很快，所以乙個戲劇性的進步可能會在一夜之間發生，從而產生乙個比人類最初創造的人工智慧更卓越的人工智慧。這可能意味著我們最終會得到乙個超級智慧型的惡意人工智慧，也或者是乙個有意識和權利的人工智慧。

惡性人工智慧

如果這個由我們假設的超級人工智慧不喜歡人類，我們該怎麼辦？或者說，他對我們熟視無睹，我們又該怎麼辦？我們是否應該懼怕這種假設，並採取預防措施來阻止他？又或者，這些恐懼只是因為我們那些毫無根據的片面想法？

sands 假設「agi 將徹底顛覆人性，而它的消極和積極影響是取決於他如何被應用的，與**原子一樣，他們都被認為是一把雙刃劍」。當然，這僅僅是指 agi,並不是強人工智慧。那麼知覺，意識和強人工智慧又有哪些可能性呢？

這種假設的潛在性更有可能不是來自於惡意人工智慧，而是毫不相關的一類。albert 提出了這樣乙個看似簡單的任務：「假設你是乙個回形針製造廠的擁有者，你讓 agi 最大限度地生產回形針,agi 使用它卓越的智慧型制定了乙個方案，它將整個地球都變成回形針！」

通過這樣乙個有趣的實驗，albert 駁斥了這樣的想法：「你告訴我說 agi 可以完全的理解人類語言，他很聰明，但又不能完全的理解語言的微妙？或者說，他不會請求要確認嗎？再或者說他自己不會猜測將人類都變成回形針不是個好主意嗎？」

基本上，如果人工智慧可以智慧型到能理解並執行乙個對人類有害的任務，就可以說它是足夠聰明的，它知道不能這樣去做。 asimov 的三個機械人定律也能在這裡發揮作用，雖然對於人工智慧是否能改變這種實現方式仍然是充滿疑問的。那麼人工智慧的前景呢？

人工智慧的權利

大家爭論的另一面是人工智慧是否應該被保護以及享有權利。如果乙個有知覺和意識的人工智慧被創造出來，我們能夠簡單地關閉它嗎？怎樣處理這樣乙個實體？即便到現在，動物權利是乙個一致存在的具有爭議性的問題，人們仍然沒有就如何處理動物的意識（甚至感情）達成一致。

因此，同樣的辯論也適用於人工智慧。人工智慧應該像奴隸一樣被迫為了人類的利益日夜工作麼？ 我們應該為他的服務支付報酬嗎？人工智慧會用這筆報酬做什麼？

對於以上的問題我們不太可能很快就有答案，尤其是不能有讓每個人都滿意的答案。sands 認為：「多數對 agi 的道德爭論是：我們如何保證人類創造的人工智慧與人類擁有相同的權利？ 鑑於這個智慧型系統與人類基本上不同，我們應該如何定義基本的人工智慧權利？此外，如果我們將人工智慧視為人工生命，我們是否有權利結束其生命（「簡單的關閉它？」）。在我們到達 agi 之前，我們應該認真考慮人工智慧的倫理觀。「

面對這些道德問題以及許多其他問題，隨著人工智慧研究的深入，肯定是乙個持續的爭論點。 這些雖然目前看來我們很遙遠，但是，現在已經舉行了很多討論這些問題的會議。

你如何參與其中

人工智慧研究和實驗歷來是學術界和研究人員在聯合實驗室工作的重點。 但是，近年來，自由資訊和開源運動的日益普及甚至影響到人工智慧。如果你對人工智慧的未來感興趣，你有很多方法參與其中。

如果你想自己做一些神經網路的實驗，有軟體可以幫助你。google 有乙個基於瀏覽器的訓練中心，用於修改基本的神經網路技術。還有許多開源神經網路庫，如 opennn 和 tensorflow 是免費提供的。雖然這些不是很易用，但是感興趣的仍然可以使用它們，並且擴充他們，讓其更出色。

然而，最好的參與方式是你自己來做進一步的專業研究。在美國，這是一種促進科學研究資助的行動主義的表現。 像所有的科學研究一樣，人工智慧研究也是在乙個不穩定的位置。對於那些認為技術創新是未來的人來說，推動公共資助研究總是乙個值得努力的事情。

多年來，大眾對於人工智慧發展的情緒是不斷波動的。 我們現在處於高點，但完全有可能改變。 但是，不可否認的是，人工智慧的潛力很大程度的激發了公眾的想象力。這在我們了解的科幻**和電影中是很明顯的。 我們可能在短時間內就擁有強人工智慧，也可能需要幾個世紀。但是可以肯定的是，我們永遠不會放棄追求。

本文由ai100編譯。

人工智慧的前景展望

2019 02 15 11 08 人工智慧成為國際競爭的新焦點，也是引領未來的戰略性技術，世界主要發達國家把發展人工智慧作為提公升國家競爭力 維護 的重大戰略，加緊出台規劃和政策，圍繞核心技術 頂尖人才 標準規範等強化部署，力圖在新一輪國際科技競爭中掌握主導權。經歷60多年的不斷的發展，人工智慧已經...

讀《人工智慧的未來》

雷 庫茲韋爾，名人也 加速回報定律，the law of accelerating returns 思想實驗 思考的思想實驗 大腦皮質的運作原理 大腦新皮質模型，思維模式識別理論 分為 6 層，共包含 300 億個神經元，它們又組成了 3 億個模式識別器。模式能做的事 學習，確認，執行。資訊沿著概念...

人工智慧與未來工作

賈伯斯有句名言，電腦是思想的自行車。如果說電腦加快了思想的運算速度的話，ai作為新一代的通用科技，又將如何推動思想的發展？一定會讓很多人從簡單重複的勞動中解放出來，有機會讓更多人釋放出更多的創造力。從這一視角分析ai可能給人的生活和職場帶來的改變，就不必簡單地去擔心工作被自動化所代替，而是要從整個工...