豆瓣評分9.4，這本被《自然》《科學》兩大權威期刊推薦的書憑什麼這麼火？

原標題：豆瓣評分9.4，這本被《自然》《科學》兩大權威期刊推薦的書憑什麼這麼火？

前面的話

世界兩個頂級學術期刊《科學》《自然》上每周都會推薦幾本新出的科學主題的科普書，而一本書若是能同時被這兩家雜誌推薦，則更是難得。去年8月25號出版的《life 3.0》正是這樣一本書，這本書一經出版，便讓霍金重磅推薦、埃隆·馬斯克、尤瓦爾·赫拉利等瘋狂點贊。

今年6月這本書的中文版已由湛廬文化策划出版，又引起了一陣熱潮，得到傅盛、王小川、余晨、羅振宇、段永朝、楊靜等社會各界專家學者的力薦，在豆瓣上的評分更是達到了9.4。

今天這篇文章就是《生命3.0》作者邁克斯·泰格馬克的學術合作者——迄今在世最著名的人工智慧研究者斯圖爾特·羅素對這本書的評價，同時他也對人類在人工智慧時代的未來進行了自己的思考。本文首發於自然雜誌，由機器之心編譯，標題為湛廬君改寫。其實，對於大多數人來說，AI是近在咫尺又遙不可及的新型產物，它彷彿無時無刻影響著我們的生活，我們卻又一無所知。希望通過這篇文章，我們能以冷靜客觀的態度看待AI。

來源：Nature

作者：斯圖爾特·羅素

編譯：機器之心

參與：路雪、李澤南、黃小天

邁克斯·泰格馬克是一位著名物理學家。他也是未來生命研究所的聯合創始人，他的座右銘是：科技正在讓生活前所未有地快速前進……或是毀滅，我們應該將未來把握在自己手中！最近，《生命3.0》這本新書傳達了他對於未來發展——特別是人工智慧發展的思考。泰格馬克認為，如果我們作為人類的「宇宙天賦」正被拋棄，那麼是時候展開認真思考了。

三分鐘讀懂生命3.0

該書作者泰格馬克經常與我分享研究和文學心得。在 2014 年，我們與史蒂芬·霍金、弗朗克·韋爾切克（2004 年諾貝爾物理學獎獲得者）共同在《霍芬頓郵報》上發表了文章《論超級智能機器的超越自滿》。它表面上是對沃利·菲斯特的反烏托邦 AI 科幻電影《超驗駭客》的一篇影評，實際上則是一次呼籲，提醒人工智慧社區對於智能系統的風險進行認真思考。我不大可能強烈反對《生命3.0》的觀點，泰格馬克認為，生命不一定會在宇宙尺度下傳播開來，同時「繁榮十億甚至萬億年」，因為我們現在正被具有誘惑力和勢不可擋的可能性吸引。

這本書的書名指進化史上的第三階段。大約 40 億年來，硬體（身體）和軟體（生成行為的能力）都由生物學決定。而接下來的 10 萬年，學習和文化使人類可以適應和控制自己的軟體。在即將到來的第三階段，軟硬體都可以重新設計。重新構造身體和大腦聽起來似乎有些超人類主義，但是泰格馬克的關注點是可以在設備內部補充大腦機能的 AI。

「機器蜜蜂」可以在蜜蜂種群數量衰退的現在用於人工授粉，但也可能產生不可預見的影響（想想《黑鏡》第三季第 6 集）

泰格馬克考慮到其優勢和風險。短期風險包括自主武器軍備競賽和就業人數大幅下降。AI 社區幾乎一致譴責能夠殺死人類的機器的創造，但是該研究引發了爭論。很多人預測會有經濟復甦——AI 促使新工作代替舊工作，和以往的工業革命一樣。泰格馬克不無諷刺地設想 1900 年兩匹馬討論內燃機的崛起……有人預測「馬的新工作……這種情況以前經常發生，就像車輪和犁的發明一樣。」對大部分馬來說，「新工作」是成為寵物食品……泰格馬克的分析令人信服，經濟學家如保羅·克魯格曼也分享了他的分析。但是問題是：當我們現在的大部分工作都被機器取代時，我們想要追求什麼樣的經濟呢？

長期的風險關係到人類的存在。本書的科幻開頭描述了一種合理的場景，超智能 AI 可能出現。之後，泰格馬克討論了從烏托邦到人類被奴役甚至滅絕的全局結果。我們不知道如何前往更好的未來，這指向我們缺乏對「為什麼 AI 變得更好可能是件壞事」的嚴肅思考。

計算機先驅阿蘭·圖靈在 1951 年提出了人類最好的結局不過是被 AI 打壓，表達了對製造出比自己更聰明的事物的普遍憂慮。通過拖慢 AI 的發展進程來緩解這種憂慮可能既不合理也不可取。《生命3.0》最有趣的部分認為真正的問題是可能出現目標偏離。控制論創始人諾伯特·維納在 1960 年寫道：「我們最好確定製造機器的目的是我們真正想要的。」或者，像泰格馬克所說的：「如何使超智能 AI 的最終目標既不是未定義的，也不會導致人類滅絕，目前並不清楚。」我的看法是，這一技術和哲學問題需要我們集合所有智力資源。

只有我們解決了它才能獲得收益。其中包括宇宙的擴張，其動力來自奇異的技術比如戴森球（Dysonspheres，它可以捕捉星球能量），在黑洞周邊建造的加速器，或者泰格馬克的理論噴發器（比如夸克驅動的柴油機，效率可提升十億倍）。出於純粹的科學興趣，很難超越有關宇宙與物理學定律允許的上升空間的解釋。比如，也許有一天我們把生物圈擴展到「32 個數量級」。接著了解到宇宙擴展將限制我們只能定居 100 億個星系，這會讓人很失望。「當暗能量摧毀宇宙文明的威脅催生出大量的宇宙工程項目之時」，我們似乎感受到了我們後代的焦慮。

這本書的結論是未來生命研究所的角色正從這些話題向主流人工智慧思考轉移——憑這點泰格馬克絕對值得信賴。當然，在提高警惕方面，他並不是獨自一人。在視野廣闊度方面，《生命3.0》與尼克·波斯特洛姆 2014 年發行的《超級智能》（牛津大學出版社）非常相似。但是，與波斯特洛姆不同，泰格馬克並不打算證明風險是不可避免的，他避開了深奧的哲學，並詢問讀者哪種情景他們認為更有可能或可取。

儘管我強烈推薦這兩本書，但我懷疑泰格馬克不太可能在人工智慧研究者中激起一種慣常的過敏反應——撤回到無需注意的防禦性論據。下面是一個典型論據：我們並不擔心遙遠但具毀滅性的可能性，比如黑洞吞噬地球，那麼我們為什麼要擔憂超級人工智慧呢？答案是：如果物理學家正在製造這樣的黑洞，我們會問他們黑洞是否安全嗎？

《經濟學人》對這一首要問題如此評價道：在地球上引入第二智族的意味非常深遠，足以值得深思熟慮。生命3.0 遠不是人工智慧的最終狀態或未來，但它提供了對所需的深思熟慮的迷人一瞥。

原文地址：

http://www.nature.com/nature/journal/v548/n7669/full/548520a.html

斯圖爾特·羅素：迄今在世的最著名的人工智慧研究者之一，也是人工智慧領域的標準教科書的作者之一。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！

本站內容充實豐富，博大精深，小編精選每日熱門資訊，隨時更新，點擊「搶先收到最新資訊」瀏覽吧！

請您繼續閱讀更多來自 哲學園 的精彩文章: