我們有生之年還能看到「奇點」嗎？

我們有生之年還能看到「奇點」嗎？

文 | 馬克斯·泰格馬克（Max Tegmark）

（麻省理工學院物理學家、基本問題研究所科學主任）

生活中可抱怨的東西實在太多，以至於我總擔心人們忽視其中的美好，情願早早拂袖而去。

在苦寒而寂寥的宇宙中，地球如太空船一樣，既提供給養又保護著人類免受傷害。它滿載重要而有限的水、食物和燃料等資源；它的大氣層為我們保暖，還屏蔽了有害的太陽紫外線輻射；它的磁場庇護我們免受致命的宇宙射線的傷害。毫無疑問，任何一個有責任心的船長，首要的任務就是保護這艘船隻的未來存續，要避免小行星的撞擊、自載負荷的爆炸、星體過熱、臭氧層的破壞，還要避免船載供應的過快消耗。然而，我們這些船員尚未把其中任何一個問題置於優先考慮之列，投入資金（據我估計）不足其資源的百萬分之一。事實上，我們這艘太空船甚至都沒有一位船長！

《那些科學家們徹夜憂慮的問題》

【美】約翰·布羅克曼（John Brockman）編著 靳清 王娟 靳心蝶 譯

浙江人民出版社

2017-3

很多人責怪生活太沉悶，一如我們所了解的那樣。他們主張，既然環境正在改變，人類也要隨之而變：我們需要技術性地武裝起來，或許用智能手機、智能眼鏡、大腦植入體，並最終與超級智能計算機連接在一起。對這種超前的生活理念，你是無限憧憬還是疑慮重重呢？這很可能取決於周圍的環境，尤其是你把未來的生命（「武裝」過的人類）看作是人類的繼承者還是反叛者。

如果父母有一個比他們聰明的孩子，從他們那裡接受教育，然後到廣闊的天地里去實現父母只能夢想的事情，他們一定會感到高興和自豪，即便他們知道自己未必能活著看到所有這一切。我們是否認為那些未來的生命是人類的後代呢？是否認為他們是人類價值觀的繼承人呢？這會直接影響他們是否保留我們最珍視的目標。

另一個關鍵因素在於，這種過渡（過程）將是緩慢的還是突然的。我認為，即使人們主觀上想讓進化停止，也很難實現；在過往漫長的歲月中，人類向更加智慧、更有適應性的方向大踏步邁進，這個過程中人類甚至還美化了身體的外觀。在另一方面，讓孩子秉承父母的夢想，還是去追逐他們自己的目標呢？父母本身也是非常矛盾的。顯然，如果先進的未來技術不是迅疾地替換我們，而是幫助人類漸進地適應和提高，並最終讓我們在其中如魚得水，那麼這或許既能滿足傳承和漸進主義的要求，又能讓我們與晚輩一起認同高科技的生活方式。

2016年3月，谷歌圍棋人工智慧AlphaGo戰勝韓國圍棋選手李世石

那麼，什麼會真正發生呢？這才是我們著實要擔心的事情。工業革命帶來了比我們更強大的機器，信息革命帶來了比我們更聰明的機器。在2006年的國際象棋比賽中，在2011年美國智力競答節目《危險邊緣》（Jeopardy）中，以及在2012年的汽車賽（在判定其比人類更安全後，內達華州給一台計算機頒發了駕駛執照）中，機器都擊敗了我們。計算機會發展出超人的智慧，並最終在所有事務上打敗人類嗎？

我毫不懷疑這些將要發生：我們的大腦是一束遵守物理定律的粒子，而沒有物理定律能限制粒子為實現更高級計算而改變排列的方式。但是，它會很快出現嗎？很多專家表示懷疑，而以谷歌工程總監雷·庫茲韋爾（Ray Kurzweil）為代表的專家則預言2030年就能實現。無論如何，我想有一點是相當清楚的：一旦它們出現，影響就是爆炸性的。

正如已故的牛津大學數學家古德（I.J.Good）在1965年的論文《關於第一台超級智能機器的推測》（Speculations Concerning the First Ultraintelligent Machine）中就意識到的那樣，具有超人智能的機器可以很快設計出比它們自己還優秀的機器。1993年，數學家兼科幻小說家弗諾·文奇（Vernor Vinge）把這場智能爆炸稱作「奇點」（Singularity），他主張在這「點」之後，我們不再可能作出可靠的預言。一旦到達這個點，地球上的生命，無論客觀上還是主觀上，再也不會跟從前一樣了。

客觀地講，無論是誰或什麼控制了這項技術，都將迅速成為這個世界上最富有也最強大的實體存在。它將會智勝所有的金融市場，讓所有人類研究員的發明和專利活動都望塵莫及，並且它能操控所有人類的領導者。即使人類與這些機器聯合，也會遭到它們的嫌棄，因為我們很難達到相同的效率，這會讓它們感覺自己被剝削了。

《真實的人類》劇照

該劇設定在機器人Synth被繁忙都市人廣泛使用的世界，人類與機器人的界限愈發模糊後，人與人工智慧的矛盾與道德拷問也隨之而來。

主觀上講，這些機器未必像我們一樣去感受。它們感受到了什麼呢？我相信，當信息接受處理時，意識是它們的感知方式。因此，我認為這很有可能，它們不能僅僅被視為無生命的機器，而應該被看作像我們一樣有意識的存在。不過，這種意識在主觀感覺上與我們的大不相同。

比如，它們可能不會像人類那樣恐懼死亡。（只要一直備份著自己，它們所失去的僅僅是最近一次備份後的存儲。）在不同的人工智慧之間輕易複製信息和軟體的能力，可能會降低強烈的個體意識，進而減少人類意識的特徵：如果人類能夠隨意地複製記憶和能力，那麼你我之間也就沒有什麼區別了。所以，那些臨近的人工智慧，可能在感覺上就像是同一個蜂巢式思維的單一有機體。

綜上所述，在我們的一生中會出現「奇點」嗎？這是一些我們能夠去支持或者反對的東西嗎？一方面，它可以解決我們大多數的問題，甚至是死亡。它也可以開發太空，突破人類的極限。解除了人類身體上的限制，這些高等生物最終將能涉足那些我們現在只能用工具觀測的宇宙。另一方面，它也可以摧毀生命和我們在乎的一切。

我們在這兩點問題上都沒有達成共識，但那並不意味著對此事置之不理是明智的。這可能是我們生命中將會發生的最好的或者最壞的事。所以，哪怕生命中出現「奇點」的概率只有1%，合理的預防措施就是至少投入GDP的1%來研究並決定如何應對它。然而，儘管我們可以明顯地感覺到生活正在發生改變，人們卻在很大程度上忽略它，並且奇怪地沾沾自喜。顯然，我們應該擔心的正是那些我們不擔心的事。

《對話最偉大的大腦·大問題系列》圖書

註：本文選自《那些科學家們徹夜憂慮的問題》，經出版方湛廬文化授權刊載。

該書源自美國「Edge」網站的大問題系列。「Edge」彙集了100餘位頂尖的科學家、思想家，包括語言學家史蒂芬·平克、互聯網思想家凱文·凱利、微軟創始人比爾·蓋茨、2004年諾貝爾物理學獎得主弗蘭克·維爾切克等。2010到2015年，「Edge」每年提出一個大問題：人類思維如何與互聯網共同進化？世界因何美妙而優雅地運行？那些科學家們徹夜憂慮的問題？哪些科學觀點必須去死？如何思考會思考的機器？網站成員對每個大問題給出自己的思考，網站創始人約翰·布羅克曼將其結集出版。

刊於財新網文化頻道。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！