阮一峰：技術有沒有邊界

技術有沒有邊界

文 | 阮一峰

（IT專欄作家）

去年網上流傳過一則趣聞。美國聖昆廷州立監獄安排囚犯學習編程，犯人出獄後，沒有一個再犯罪被抓回。一位剛出獄的囚犯說：「太可怕了，我寧願在外面餓死也不想再去學編程了。」

最後這句話是網友杜撰的，在程序員圈子裡被當作笑話轉發。但我覺得這則新聞是個很好的象徵：當代社會就像一座機器組成的監獄，學會技術可以擺脫牢房。

人類已經不再生活在大自然里了，而是生活在機器環境中：住宅、交通、醫療、食物??就連水和空氣都是機器提供的。如果機器出故障，人類頓時就有危機。就像病人依賴呼吸機和心臟起博器，人類也依賴著機器。整個社會已經機器化了。

我們理應享受技術成果，這沒有問題。問題是，技術正變得越來越先進，也越來越難懂，大多數人已經不能夠理解技術了。多少人能說清，手機通信的原理是什麼？為什麼對著空氣發送信號，就能被幾千公里以外的另一個人實時收到，而不會發錯對象？為什麼掃一下手機二維碼，你的資金就轉到了商家賬上？

我們已經不懂技術如何達成這一切，只能按照別人設計好的方式，像傻瓜一樣使用它。但是，如果有一天，你請不到人，或者機器索性壞了，你不就困在了機器組成的監獄裡了嗎？

糟糕的是，技術已經變得如此複雜，沒有人能夠全部搞懂。就拿計算機來說，從底層的CPU晶元一直到上層的圖形界面，中間大概依次有幾十層（甚至上百層）操作介面，要想全部掌握這些層，幾乎是不可能的。也就是說，沒人能理解全部的技術，每個人只懂自己的那一小塊。因此我們根本無法預測和判斷，某個領域的技術發展會引起整個系統怎樣的變化。類似五年或十年規劃那種整體控制，就更談不上了。我們只能走一步看一步。

技術最終會把人類帶到哪裡呢？我們已經完全不知道了。小說《冰與火之歌》里，寒冷的北方有一道絕境長城，外面就是危險地帶，任何人不得跨越。我最近常想，技術有沒有邊界呢？一旦接近「絕境長城」，我們會自覺停在那裡，不再往下發展嗎？

舉例來說，人工智慧領域有一個概念，叫做「終極智能」。意思是，當機器的智能達到這種程度時，就不需要人類再做發明創造了，因為機器自己就會發明創造。如果這種「終極智能」真的可能實現，技術要不要去實現它呢？

目前來看，技術完全是野蠻生長，沒有辦法遏制。哪怕某種技術最終給人類帶來毀滅性影響，我們也無能為力。只要技術有能力做到的事情，最終都會做到。就像我們隨意地往花盆裡面扔種子，原意是種花，但長出來的可能是一棵樹。我們能做的，就是在旁邊看著它長。一旦植物長得太大，超過了花盆所能承受的重量，整個花盆就將傾覆。

我想到了另一個笑話：一架飛機即將起飛，裡面坐的都是各大軟體公司的老闆。這時，機長問：如果這架飛機的控制軟體是你的公司寫的，你還敢坐嗎？除了一個人，其他人都表示不敢坐。機長走到惟一願意留下的乘客面前，欽佩地說：「看來您對自己公司的軟體非常有信心。」對方搖搖頭：「不是啦，我很清楚，如果你們用了我們的軟體，這架飛機根本飛不起來。」

我第一次聽的反應是，這不是笑話。一架民航客機有100多噸，就懸浮在空中，上不著天，下不著地，機上乘客的性命其實完全取決於技術，我們真的是在把生命託付給軟體公司。

如今，我的這種想法更強烈了。它其實是一個隱喻，整個人類正坐在一架軟體駕駛的飛機裡面，只能祈禱軟體運行永遠不發生錯誤。一旦發生問題，人類就會墜機。物理學告訴我們，要想讓飛機在高空不掉下來，就必須高速前進，不能夠失去速度。技術也是如此。為了讓現有的技術更可靠，只有發展更先進的技術。人類已經走上 一條無法回頭的道路，只能提速，不能減速。

一個依賴技術的高科技、高度自動化社會，也是一個非常脆弱的社會。有人說，一旦出現危機（比如全球變暖或戰爭），人類就會減緩（甚至凍結）技術發展的速度。

錯！危機只會進一步加速技術發展。技術的危機只能用更好的技術解決，否則人類社會就有立刻崩潰的危險。但是，高速公路上不能剎車，意味著什麼？

20世紀初，美國經濟學家熊彼特說過一句名言：「資本主義經濟最終將因為無法承受其快速膨脹帶來的能量，而崩潰於自身的規模。」我覺得，技術可能也是如此。高速發展蘊含的巨大能量，最終將把人類社會帶到難以預測的脆弱狀態。

刊於《財新周刊》2017年第13期。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！