技術的邊界

美國聖昆廷州立監獄安排囚犯學習程式設計，完成學習的犯人出獄後，沒有乙個人重新犯罪被抓回監獄。

一位剛剛出獄的囚犯說："太可怕了，我寧願在外面餓死也不想再進去學程式設計了。"

後面那句話是網友杜撰的，但是程式設計師圈子裡，大家依然把它當作笑話**。"你看，程式設計多痛苦，還不如坐牢呢。"

我一直忘不了這個段子，覺得它是乙個很好的象徵：當代社會就像一座機器組成的監獄，學會技術可以擺脫牢房。

2、人類已經不再生活在大自然了，而是生活在一種機器環境：住宅、交通、醫療、食物......就連水和空氣都是機器提供的。如果機器出故障，人類頓時就有危機。就像病人依賴呼吸機和心臟起博器，人類也依賴著機器。整個社會已經機器化了。

這沒有問題，我們理應享受技術成果。問題是，技術正變得越來越先進，也越來越難懂，大多數人已經不能夠理解技術了。

我們已經不懂了，技術如何達成這一切。我們只是按照別人設計好的方式，像傻瓜一樣地使用它。對於大多數人來說，技術已經成了一種魔法。我們使用技術，然後像看魔法一樣，看著機器變出神奇的結果。由於熟視無睹，我們都不感到驚奇了。

我們其實已經生活在乙個魔法世界裡面，享受著各種技術發明，它們的神奇程度是最大膽的想象力都沒有**到的。

小時候，我讀過的第一本科幻**是《小靈通漫遊未來》。書裡說，未來的人們都帶著一種神奇的手錶。

"那手錶既沒有時針、分針、秒針，也沒有齒輪和發條，只不過是一塊小小的電視螢光屏，上面寫著幾個數字："11：23：40"，也就是11時23分40秒，那表示秒的數字在不斷變化。當40秒變成60秒時，那23分也一下子變成了24分。

我想，居然會有這樣奇妙的手錶？ "

這是前一代人想象中的未來，現在看上去顯得非常過時。

技術的進步速度，遠遠超過人們的想象。我們生活在乙個機器世界裡，但又不懂這些機器，這是一種怎樣的處境？現在的模式是，我們花錢購買服務，讓懂的人或公司來操作和維護機器。但是，如果有一天，你請不到人，或者機器索性壞了，你不就困在了機器組成的監獄裡了嗎？

3、她問我："使用者名稱就是身份證上的名字嗎？密碼是不是身份證號？"我跟她解釋："**通過使用者名稱才能知道你是誰，密碼則是為了防止別人冒充你。它們都可以自己設定。"我媽似懂非懂，為什麼要自己為自己起名呢......

我媽有了使用者名稱以後，可以自己在"某寶"上買東西了。過了一陣子，她來找我，說使用者名稱不管用了。我過去一看，原來她用這個名字在"某東"登入，怎麼都登入不上去。她不太明白，為什麼在乙個**申請了使用者名稱，到另乙個**就必須再申請一次？

我有時想，等到了我媽的年齡，我是否也會對那時的新技術一頭霧水，像看天書一樣，不懂如何使用。

4、我們的社會已經如此依賴技術，為了適應外界，你至少要知道如何使用它。糟糕的是，技術已經變得如此複雜，沒有人能夠全部搞懂。系統越來越複雜，分工越來越細，乙個人已經不可能從頭到尾掌握整個系統了。

現在的情況是：沒有人能夠理解全部的技術，每個人只懂自己的那一小塊。根本無法**和判斷，某個領域的技術發展會引起整個系統怎樣的變化。五年規劃或十年規劃，那種整體的準確安排和控制，就更談不上了。

技術已經到了這樣乙個地步：我們走一步看一步，誰也不知道十年後，技術會突破到什麼程度。

5、技術最終會把人類帶到**呢？

我想我們已經完全不知道了。人類一項又一項地發明新技術，對於新技術帶來的後果，已經失去了控制，聽任它帶著我們向前走。

**《冰與火之歌》裡面，寒冷的北方有一道絕境長城。外面就是危險地帶，任何人不得跨越。我最近常想，技術有沒有邊界呢？一旦接近"絕境長城"，我們會自覺停在那裡，不再往下發展嗎？

舉例來說，人工智慧領域有乙個概念，叫做"終極智慧型"。意思是，當機器的智慧型達到這種程度時，就不需要人類再做發明創造了，因為機器自己就會發明創造。如果這種"終極智慧型"真的可能實現，技術要不要去實現它呢？

目前來看，技術完全是野蠻生長，沒有辦法遏制它的發展。哪怕某種技術最終給人類帶來毀滅性影響，我們也無能為力。只要技術有能力做到的事情，最終都會做到。人類（嚴格地說是某些人）最終將擁有可怕的力量。

現在的技術發展，好比隨意地往花盆裡面扔種子。原意是種花，但是長出來的可能是一棵樹，完全超過了花盆的容量。我們能做的，就是看著它長啊長。一旦植物長得太大，超過了花盆所能承受的重量，整個花盆就將傾覆。

6、最後，我想到了另乙個笑話。

一架飛機即將起飛，裡面坐的都是各大軟體公司的老闆。這時，機長問了他們乙個問題：如果這架飛機的控制軟體是你的公司寫的，你還敢坐嗎？

除了乙個人，其他人都表示不敢坐。唯一那位願意繼續留在飛機上的乘客，機長走到他的面前，欽佩地說："看來您對自己公司的軟體非常有信心。"那位老闆搖搖頭："不是啦，我很清楚，如果你們用了我們的軟體，這架飛機根本飛不起來。"

第一次聽到的時候，我的反應是這不是笑話。一架民航客機有100多噸，就懸浮在空中，上不著天，下不著地，機上乘客的性命完全取決於技術，我們其實真的是把生命託付給軟體公司。

如今，我的這種想法更強烈了。它其實是乙個隱喻，整個人類正坐在一架軟體駕駛的飛機裡面，只能祈禱軟體執行永遠不發生錯誤。一旦發生問題，人類就會墜機。

物理學告訴我們，要想讓飛機在高空不掉下來，就必須高速前進，不能夠失去速度。技術也是如此，為了讓現有的技術更可靠，只有發展更先進的技術。人類已經走上了一條無法回頭的道路，只能提速，無法減速。

乙個依賴技術的高科技、高度自動化的社會，也是乙個非常脆弱的社會。有人說，一旦出現危機（比如全球變暖或戰爭），人類就會減緩（甚至凍結）技術發展的速度。錯！危機只會進一步加速技術發展，而不會減緩。技術的危機只能用更好的技術解決，否則人類社會就有立刻崩潰的危險。但是，高速公路上不能剎車，意味著什麼？

20世紀初，美國經濟學家熊彼特說過一句名言："資本主義經濟最終將因為無法承受其快速膨脹帶來的能量，而崩潰於自身的規模。"我覺得，技術可能也是如此，高速發展所蘊含的巨大能量，最終將把人類社會帶到難以**的脆弱狀態。