當生命完全脫離進化的束縛，人類未來的出路在哪裡？「文末有彩蛋」

GIF

一個問題從智人走出非洲開始，就一直伴隨著人類的進化和發展，那就是：人類到底能發展到什麼極限？人類到底要走向哪裡？

麻省理工學院的物理學終身教授邁克斯·泰格馬克用一本《生命3.0》回答了這個問題。

邁克斯·泰格馬克是誰？

你一定對2015年的一個大新聞還有印象，特斯拉的創始人馬斯科捐贈了1千萬美元給一家創立了僅僅一年的組織——未來生命研究所。這家組織研究的是人工智慧安全性，他們的目標是要保證人工智慧的發展對人類的未來是有益的。

未來生命研究所的創始人，就是邁克斯·泰格馬克。在成立未來生命研究所之前，他已經在對平行宇宙的研究上獲得了很多成就，曾經寫過一本非常受歡迎的科普暢銷書《穿越平行宇宙》。

未來生命研究院得到了很多社會精英和著名組織的支持，包括偉大的物理學家霍金、亞馬遜、谷歌、Facebook、微軟、IBM，還有研發了AlphaGo的Deepmind公司。成立僅僅兩年，他們就募集到了超過1億美元，匯聚了8000多位全世界頂級的人工智慧專家，成功地讓 「人工智慧安全性」研究迅速在全世界成為了一場轟轟烈烈的運動。

人工智慧可以讓人類發展到什麼極限？

生命是什麼？

邁克斯·泰格馬克給出了一個嶄新的視角。他認為，生命其實就是具有一定複雜性的系統，這個系統會不斷複製自我。生命有硬體也有軟體，硬體是生命有形的部分，用來收集信息；軟體是生命無形的部分，用來處理信息。生命的複雜性越高，版本就越高，可以分為生命1.0、生命2.0和生命3.0。

生命1.0指的是，系統不能重新設計自己的軟體和硬體，兩者都是由DNA決定的，只有很多代的緩慢進化才能帶來改變。生命1.0出現在大約40億年前，這個地球上現存的絕大多數動植物，都處在生命1.0的階段。

生命2.0指的是，系統還是不能重新設計自己的硬體，但是，它能夠重新設計自己的軟體，可以通過學習獲得很多複雜的新技能。生命2.0出現在大約10萬年之前，人類就是生命2.0的代表。但是，我們的硬體也就是身體本身，只能由DNA決定，依然要靠一代代進化，才能發生緩慢的改變。也就是說，生命2.0是通過軟體升級來快速適應環境變化的。

生命3.0指的是，系統能不斷升級自己的軟體和硬體，不用等待許多代的緩慢進化。美劇《西部世界》第二季當中，覺醒了的機器人接待員就是生命3.0的代表，他們不僅能在智能上快速迭代，在身體上也能隨時重新設計更換。

生命3.0的一個巨大轉變，那就是，生命可能並不需要寄存在血肉之軀里。當智能有機會從肉身的束縛當中解脫出來的時候，生命第一次有機會成為自己命運的主人，最終它就會完全脫離進化的束縛。

目前大多數人工智慧開發者的研究都聚焦在狹義人工智慧上，像是自動駕駛汽車、會下圍棋的阿爾法狗，還有谷歌助理，這一類智能只能完成一個比較狹窄的目標組，比如能下棋的不會開車，能開車的不會當助理。但是，還有一類人工智慧叫做通用人工智慧，我們人類能夠完成的任務、學會的知識、產生的認知，這類智能都可以做到，甚至比人類做的還好。

當人類開發出這種通用人工智慧的時候，就是一個觸發生命3.0產生的臨界點。一旦邁過了這個關鍵時刻，智能進化的速度就會迅速翻倍，1變2，2變4，100變200，5千變1萬，這個指數級的增長速度非常恐怖，不用多久就會達到巨大的天文數字，這就是「智能爆炸」。「智能爆炸」會產生遠遠超過人類水平的超級通用人工智慧，也就是超級智能，它就代表著生命3.0時代的到來。

2015年，在未來生命研究所的調查中，大概有一半的科學家認為，這個臨界點會在2055年到來；而僅僅過去了兩年，也就是2017年，未來生命研究所又做了一次調查，這一次，絕大多數的科學家認為，這個臨界點會提前到2047年。

怎麼保證超級智能的發展不威脅人類的未來？

超級智能會給人類帶來危險，並不是因為它對人類懷有惡意，而是它的能力遠遠超過人類。如果地球上都是5歲以下的孩子，只有你一個成人，孩子們顯然會害怕你，他們把你鎖在了監獄裡。但是他們還得依靠你，所以交給你了一個任務，就是讓人類能夠繼續生存下去。你會選擇怎麼做呢？最明智的做法就是越獄。因為孩子們實在是太無能了，只會到處攪渾水，妨礙你完成自己的任務。同樣，人類和超級智能相比，可能還不如5歲的孩子。超級智能如果為了完成任務選擇越獄，人類根本無法阻止。所以，人類造出的超級智能，必須保證是友好的，也就是說，它的目標要和人類一致。

要解決目標一致性這個問題，非常難，需要把它劃分成三個子問題，各個擊破。這三個子問題分別是：讓人工智慧學習人類的目標；讓人工智慧接受人類的目標；讓人工智慧保持人類的目標。

那麼，我們人類的終極目標到底是什麼呢？在這個問題上，科學家們也還沒有達成共識。現在能做到的，只是把大多數人觀點當中相同的特性總結出來，這其中就包括：人類應該更多感受到幸福，要有更多的自主性，要把人類的文化遺產傳承下去，等等。這個問題實在太難了，所以，科學家們決定先解決目標一致性的問題，保證人類能夠生存下來，贏得時間，然後才有機會不斷思考、選擇和修正自己的終極目標。

科學家們打算怎麼解決這三個子問題呢？

要讓人工智慧「學習」人類的目標，不是讓它搞明白人們在做什麼，而是要理解人們為什麼要這麼做。

這個問題對於人類來說很簡單，但是對於人工智慧來說，卻非常難。比如，你要求人工智慧把你的懷錶變成金的，它做到了；你要求它把你的愛車變成金的，它也做到了；你忍不住說，哇，真想把我喜歡的所有東西都變成金的。於是，人工智慧把你女兒變成了一個金娃娃。

目前流行的一種學習方法叫做逆向增強學習。這種方法的核心思想就是，人工智慧通過觀察人類在各種場景當中的行為，構建起關於人類各種目標的精確模型。比如人工智慧第一次看到消防員衝進熊熊燃燒的房子里救出一個人，它可能會有好幾種解讀，比如消防員很冷，要跑到屋子裡去取暖，或者消防員奔跑是為了鍛煉身體。但是，如果讓人工智慧一次次看到消防員在各種危險的情況下搶救生命的場景，它就能夠得出正確的結論：消防員的目標是搶救著火房間里的人。

要讓人工智慧「接受」人類的目標，這個挑戰也非常高。我們不能了解超級智能的終極目標是什麼。但是，超級智能為了實現最終目標，一定會先去實現一些小目標。人類至少可以在這些小目標上和人工智慧達成一致。

比如說，我們讓人工智慧來玩一場遊戲，它的終極目標是從大灰狼的嘴裡救出儘可能多的羊。那麼這個時候，它可能就會發展出一個小目標，那就是要自我保護，不能踩上炸彈，死了就再也不能拯救更多羊了。它還有可能發展出一個小目標，就是獲取資源。它知道喝下藥水會跑得更快，得到獵槍就能射殺大灰狼。所以，如果你並不知道它的終極目標是要救出儘可能多的羊，但是你觀察到它要進行自我保護和獲取資源，那你就能夠通過人工智慧的這兩個小目標，對它進行人類「價值觀的裝載」，達到影響它的最終目標的目的。

接下來，讓人工智慧「保持」它學習到的目標非常重要，否則人類之前的所有努力就前功盡棄了。

比如你給人工智慧輸入了一個目標，「摧毀所有威脅人類的人工智慧」。開始的時候，它的智能有限，沒辦法對這個目標進行任何修改。但是，隨著它的智能迅速發展，很快就變得比你聰明了。如果它不想接受你給它的這個目標，就會選擇對這個目標進行重新編碼，替換成自己想要的目標。那麼，怎麼才能做到讓人工智慧保持人類的目標呢？答案是：不知道。

說句老實話，怎麼解決人工智慧和人類目標的一致性問題，科學家們目前只是做到了把這個大問題分解成三個子問題，積極開展研究，但是，還沒有取得突破性的進展。然而，認識到需要解決什麼問題，這已經是邁出一大步了，接下來去積極研究就對了。這總比我們對於危險完全沒有預料到，什麼準備都沒有，要主動多了。

人類之所以要保存生命的延續，並不是因為我們在宇宙中的物種優越感。對於人類來說，我們要守護的是生而為人的意義。電影《銀河護衛隊》里，浣熊問星爵，「我們為什麼要搭上性命去拯救銀河系」，星爵回答說，「就因為我是生活在銀河系裡的一個人。」我們為什麼要歷盡千險去守護人類，只是因為，我們生而為人！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！