人工智慧危險嗎？

天體生物學中也有和「智能」相關的話題。未來，像人類一樣的機器智能是否會在宇宙中隨處可見？我們是否僅是曇花一現的演化產物，我們的聰明才智會否帶領我們走向滅亡？我們那由熵驅動的、不斷製造繁複的宇宙，是否終將與智能相輻合？

這都是些好問題。還有一個問題也值得追問：我們是否能夠複製自己的智能，或是做一些與之類似的事？這麼做是否明智？

最近幾個月，這一話題又出現在大眾媒體的報道上。斯蒂芬·霍金（Stephen Hawking）和伊隆·馬斯克（Elon Musk）相繼發聲，最近連比爾·蓋茨（Bill Gates）也開始談論這件事。這些聰明人都覺得我們應該謹慎對待人工智慧（Artificial Intelligence，縮寫為AI）的發展，否則，它可能會對人類的生存形成威脅。

儘管我們很難搞清他們預測的「生存威脅」具體為何，但霍金指出，強大的人工智慧系統可能比生物系統進化得快得-多得-多得-多，它將瘋狂地掠奪資源，最終無視人類的生存。我覺得他說的有道理。人工智慧的威脅不在於其殘暴與狂妄（除非我們故意或者不小心將它變成那樣），而在於它會遵循自身的規律演化。我們當然可以假想，人類的安保系統會向人工智慧植入「同理心」（empathy，也譯「共情」，指一種站在對方立場、設身處地為其思考的方式）。但我覺得，這種想法有兩個弱點。其一，大多數人類都有同理心，但我們仍舊可以野蠻殘暴地對對待同類以及生活在這顆星球上的其他生靈；其二，我並不確定真正並且強大的人工智慧系統可以由人類步步「馴化」而來，我們可能得讓它自己發展出智能。

這意味著什麼呢？現今人工智慧的「深度學習」會使用演算法生成自己的概率規則，憑此在大量信息中進行篩選。我們並不需要提前將相應的規則「告知」軟體，相反，規則是軟體通過自身的演算法習得的；或者，軟體具有一定的依從性，能被順利地引向規則。人類就是這麼處理語言的。這一過程奇妙得無與倫比，但若人工智慧如此行事，是否也能獲得和人類一樣的效果？懷疑派的諾姆·喬姆斯基（Noam Chomsky）與支持派的彼得·諾維格（Peter Norvig）曾就此激烈爭論過。從深層次上看，這是兩個科學派別的對峙，其中一派主張內在的簡約，另一派則認為自然根本就不簡單。

這裡我要提出另一種有關人工智慧的主張（這並非是我原創）。我們也許可以創造一種孕育智能的普遍條件。這看來滑稽，像是將零部件扔在一個盒子里，等待其自行組裝成一輛嶄新的自行車。當然，這並非以一種不科學的方式來對待人工智慧。但是，倘若「智能」是演化歷程中突然出現的一種非常複雜的系統，「人工的智能」還有誕生的機會嗎？也許是有的。工程學為此面臨的挑戰之一，是要製造一個像人腦一樣的複雜系統，以支撐智能的存在與運轉。但顯然，我們的大腦與智力是一同演進出來的。我們並不知道這一複雜系統的確切模樣，所以，妄想坐在桌子前設計出一種可以催生出新型智能的系統，未免有點蠢。

但如果我們現在已經開始為這一系統設置條件，情況就不一樣了。「機器學習」大概就是人工智慧所需要的「行為學」，但身處互聯網的汪洋中，今天它該何去何從呢？大數據、小數據、應用軟體、掌握數據包傳送的演算法、感測器（從GPS到恆溫裝置，再到流量管理器），都能直接或間接地互相交流。

這就像一個巨大的施工現場。據估計，2014年互聯網上的移動設備數量達到了74億。如果對所有能夠接入互聯網的東西進行統計——從馬桶到工廠等一切能夠併入物聯網的東西，據估計，現今互聯網上的活躍鏈接多達150億（數據來自思科公司提供的一項非常有愛的服務），而到2020年時，這一數據將達到500億。

如果孕育人工智慧的盒子里全是雜亂無章的數據，這個盒子恐怕也沒什麼魔力。但我們的盒子不是雜亂無章的。盒子里已經有了越來越多的演算法，可以在數據的汪洋中找出結構和聯繫。這一設計，部分是受到了生物智能的啟發，或者至少來自我們目前對「生物智能」的粗淺認識。代碼與代碼互相交流，數據包為尋找最佳的路徑四處遊逛，軟體可以與硬體溝通，硬體之間也能互相溝通。這套生態系統之上，還有人腦對信息進出的維護。日復一日，這些「相互交流」，自己就會令數據的汪洋產生巨大的改變，它們就像分析師一樣，能夠從以往的規律中「了解」我們——無論作為個體或是群體——下一步的打算。

這樣一套系統是否足以孕育出一種高級人工智慧的類似物？我不太清楚，其他人也不知道。但在自生命出現以來的40億年間，這樣的問題還是頭一次出現，這也使我們重新回到「人工智慧威脅論」。

如果這真能催生出一個強大的人工智慧，我們當頭的威脅，將產生於如今人們對互聯網生態的強力依賴。這不僅關乎我們溝通以及獲取信息的方式，它也決定了我們的食物供給系統的組織形態、決定了藥師如何追蹤藥物的流向，同時也決定了我們的飛機、火車、卡車和輪船的時刻表，以及金融系統的運作。這樣的人工智慧系統會像小孩打亂你裝襪子的抽屜或者咬貓咪的尾巴一樣造成災難。

霍金認為人工智慧會迅速演化。事實上，它可以在不到一秒的時間內完成「出現-演化-破壞互聯網系統」的全過程。這也會使我們看到一個有趣的怪圈：一個「偶發」的人工智慧竟無法建立任何長期生存所需的虛擬連接與結構，而是以迅雷不及掩耳之勢作繭自縛。這是人工智慧的短板，於我們卻是安慰。

我很難不將這與另一個古老的問題——費米悖論（Fermi Paradox）聯繫起來。人工智慧的產生或許將是一次滅絕文明的大篩選（Great Filter），但它也會自我終結，這大概也是人工智慧無法在過去的130億年里跨越星系與我們相見的主要原因吧。

（作者：卡萊布·施拉夫，哥倫比亞大學多學科天體生物學中心主任；翻譯：張櫟文）

請您繼續閱讀更多來自 知識百科 的精彩文章:

※人工智慧？是人工智障吧！
※人工智慧會失控嗎？
※人工智慧會統治人類嗎？
※防禦人工智慧最好的辦法，也是人工智慧！
※人工智慧有多智能呢？
※遇見人工智慧，防止人工智慧標籤化
※人工智慧為什麼看起來像人工智障？
※讓人工智慧監視人類工作 你恐慌了嗎？
※人工智慧毀滅人類？
※人工智慧？也有可能是人工智障
※哪些職業會被人工智慧淘汰？哪些工作人工智慧顛覆？
※人工智慧會超越李白嗎？
※人工智慧太危險：特別當心性愛機器人……
※如何構建人工智慧化的服務？
※關於人工智慧的可怕
※人工智慧難道天生反骨嗎？
※人工智慧X——一個人工智慧人的秘密計劃！
※人工智慧真的可以主宰金融科技嗎？
※破解人工智慧神話：我們該怎樣擔憂超級人工智慧？