在全球人工智慧高峰論壇上，我們聽尤瓦爾·赫拉利聊起 AI 和人類的關係

科技 07-10

摘要：尤瓦爾·赫拉利是誰？以色列人類學家，《人類簡史》《未來簡史》作者。

我們應該怎樣藉助人工智慧的力量推動社會發展？人工智慧技術會怎樣代替人類的工作？未來城市究竟和人工智慧有什麼樣的關係？

關於這些問題，在 7 月 9 日杭州市人民政府主辦的主題為「未來已來」的「全球人工智慧高峰論壇」上，我得到了一些新的答案。本次大會上，匯聚來自科技領域的最具影響力的科學家以及學者們，他們對上面這些問題作出了諸多探討，而演講台的話筒完全交給了他們。

圖靈獎獲得者、康奈爾大學教授約翰?霍普克洛夫特 (John Hopcroft)，講述了人工智慧數十年來的發展以及快速崛起背後的深刻含義，並對比了中美關於人工智慧研究方面的異同，他認為「中國和德國在政府層面對於正在發生的科技變革有更多的意識。不過中國關注更多的是人工智慧的應用而不是背後的理論，美國關注更多的是它背後的理論，這是教育系統上的區別。」所以應該考慮改變教職工和學校的評估矩陣，對基礎研究領域投入更多。

阿里巴巴技術委員會主席王堅，則講到「人類歷史上最偉大的發明就是城市」，所以人工智慧對於城市智慧化發展將會具有深刻的影響，並認為等到「大腦被連到互聯網」的時候，將會是人類新的開始。

本次演講中，《未來簡史》作者尤瓦爾·赫拉利的內容也非常引人思考，作為《人類簡史》以及《未來簡史》的創作者，他通過人類歷史的簡述和生活體驗的類比，探討了人類從誕生以來將要面對的最深刻的一次變革——AI 革命，認為人類從「有機體變為無機體」後將會「走出地球之外」。

在尤瓦爾·赫拉利看來，現在的人工智慧雖然發展迅速，但不過是對於「智能」的研究，並沒有觸及到「意識」的層面，因為人類自己也很難知道意識究竟是什麼。所以，當我們討論人工智慧時，應當明白這背後的危險性是我們自己的意識，要嘗試去了解人類的喜怒哀樂背後的深層根源，會對人工智慧具有幫助作用，因為「智能」和「意識」像硬幣兩面決定著人工智慧的發展。

因為演講內容較長，前面不過多贅述，感興趣就直接來看看尤瓦爾·赫拉利當天的演講：

我今天想跟大家說的，是人工智慧和意識的關係。人工智慧和人工意識，處在很偉大的變革邊緣，這不僅僅是在歷史上，實際上也是從地球有生命開始最偉大的一個變革。

地球誕生大概在 40 億年前，40 億年是一個很長的時間，但人類生命的變化當中沒有什麼發生了根本的變革，所有都是自然的選擇而最終導致的結果。不管你是很小的泥巴蟲，還是很大的恐龍。或者說，你可能只是一個人，你都參與到了這樣的自然選擇過程當中，因為你是有機物組成的。

而現在的變革，特別是 AI 以及生物科學的發展，在未來幾十年，會改變人類變革的基本原則。我們的生命會由智能設計而控制，這並不是神所做的智能設計，而是人類的智能設計，是電腦、雲計算所驅動的革命。同樣，我們的生命會從一個有限的有機體變成無限的無機體。我們現在要創造第一個無機的生命體，這個生命體會超出我們的想像。

另外一個革命，是第一次走出地球以外。40 億年來，生命都是存在於地球上的，因為物競天擇適應了星球的特別環境，所以不管是對人還是植物，它都沒有辦法在外太空生活，不論在月球，還是在金星，我們沒有辦法適應。所以電影中看到一個人坐上宇宙飛船搬到另外的星球生活，那只是電影，是科幻。但我們從有機體到無機體，從機器人到人工智慧的過程，將會讓我們在其它星球上生活變得可能，也變得更加容易。

人類需要重新認識工作

這樣的變革對於人類來說會有很大影響，特別是對經濟、政治。最明顯最快速的就是在就業市場。因為隨著 AI 發展，它會在很多任務上超過人類的表現。從駕駛到醫療診斷，成千上百萬的人會沒有工作。因為你不再需要計程車司機、卡車司機。

就像 19 世紀的工業革命，創造了新階層，也革除了舊階層。21 世紀 AI 的革命同樣也會創造一個不工作的階層，或者無用階層。他們沒有任何經濟價值，也沒有任何政治力量。這件事可能會在未來幾十年發生，所以我們今天就要非常嚴肅的思考這個問題。不僅僅是為了開發新的經濟模型，或者政治模型來解決這個問題。同樣也是因為我們需要決定，對於今天的孩子來說要教他們什麼，這樣的話他們就會有工作，20 年之後會有相應的技能。

一個壞消息是，沒有人知道未來的就業市場會是什麼樣。所以沒有人能夠預料我們未來的孩子應該學什麼。今天做的很多工作到 40 年，50 年之後，肯定會被取代，他們需要重新改變自己，並在有生之年不斷學習。我們要教給孩子的內容，是讓他們有一個心理的靈活度，一個平衡度，如何不斷適應自己的心理狀態，適應生活。因為對於世界而言，最大的不變就是變化。

人工智慧也會在情感智能上比人類更出色，人類最後一道防線就是機器人、計算機還沒擁有情感智能。如果說醫生這個職業，計算機比人類在醫療診斷方面更好，它們可以非常迅速去處理和搜索海量的醫療數據，那麼 AI 很快會比人類醫生表現更好。但有人說我們還是需要人類醫生，因為你跟醫生有情感交流，醫生有情感智能，可以非常好的識別出病人的情感，喜怒哀樂，並很好的照顧病人情緒，這是世界上任何一個好醫生都能夠做的事情。

但就算是診斷心理上的疾病，人工智慧也可能比人類的醫生更好。因為情感到最後其實也是一個生物模式，人類的醫生要如何去識別一個病人的情緒狀態呢，基本上他們會分析一些信息。從身體狀況的表現和身體發出的信號來判斷情緒，比如我講的話和表現出的表情，識別出病人臉部肌肉上微妙的變化。從憤怒的臉到悲傷的臉，或者到開心的臉，他們會有細微局部的肌肉變化，醫生才可以識別出病人。

人工智慧也可以識別一個人憤怒的語調，或者快樂的語調，這叫模式識別。人工智慧會比人類醫生在未來的語音識別、臉部識別上做得更好，可以更好監督病人外部的一些表徵，身體的一些動作，臉上的表情。人工智慧可以比人類醫生做更多，甚至是人類醫生從來沒做過的，也就是可以實時監控人類身體內的一些情況。我的血壓，現在的心率，大腦部分的活動。如果把 AI 和生物治療感測器連接在一起，人工智慧會比人類更強大。甚至在情感智能上更勝一籌，可以更好回應人類情緒上的一些反應。

研究人類意識能夠幫助發展人工智慧

但有一件事情，人工智慧是不能夠和人類媲美的。這件事情在不久的將來也是會不斷保持這樣一個狀態，人工智慧在這方面不能戰勝人類，那就是我們的意識。現在你會看到很多智能上的融合，但是人們對於智能和意識的定義還比較模糊。我想和大家說一下兩者的區別，智能是解決問題的能力，比如說要診斷一個疾病，找出最好的診斷方式，解決問題需要智能。

意識，在另一個層面來說是感知外部世界的能力，感受到快樂，感受到憤怒，感受到愛情等等。對於人類或者其他哺乳動物來說，都是通過情感，通過意識、感受來解決問題。它們是使用智能和意識的綜合體來解決問題，我們看到這兩個詞會感到很困惑，而過去人工智慧還沒有發掘出意識，它們只是不斷的發展智能。它們在意識上的發展是零，計算機在很多方面都會比人類好。比如說解決問題方面，但它們不能解決一些人類使用意識和情感感受來解決的問題，這是人工智慧不能夠達到的。

我認為大家對於這兩個詞有很大的誤解，可能因為受到很多科幻小說的影響，我個人也非常喜歡科幻小說。但我認為有些科幻小說會帶給大家很大的誤解，讓大家錯誤的了解什麼是智能，什麼是意識。因為科幻小說把一些事情都顛覆了，顛倒了。在很多科幻小說中講到了機器人、計算機、人工智慧，說計算機和人工智慧得到了一些非常複雜的意識能力。它有了感覺，它有了情感。要麼就是和科學家墜入愛河，要麼變得非常憤怒，想要毀滅人類，這是 95% 科幻小說的情節。

他們對於 AI 的理解是錯誤的。因為到 2017 年為止，我們沒有根據認為計算機會發展出意識，或者說計算機需要發展出意識來超過人類。也有可能計算機會不斷演進，不斷發展，朝著超級智能體的方向發展，但這是通過不同的方式。哺乳動物也在不斷的進化演進，變成越來越智能的哺乳動物。過去幾百萬年也漸漸發生、產生出了意識。而計算機是採用了截然不同的路徑，達到了和人類、哺乳動物一樣的結果。

哺乳動物的演進歷史是非常漫長的，他們需要幾百萬年的歷史。而電腦、計算機，它們採取了捷徑，在短短數十年採用了截然不同的方式，並發展出了極高的無意識的智能。我們正在經歷這個大的發展，也許過幾百年，幾千年，人類會和機器融合在一起。

為什麼計算機現在還沒有意識，是因為人類作為計算機的創造者，對於意識的理解和它的含義知之甚少。我們對於大腦的理解，對於智能的理解是越來越多的。我們知道通過智能可以創造出智能的機器，但是我們不理解什麼是意識。所以到現在為止，我們還不能夠創造出一個有意識的機器。

意識不是一個有機體，它不像是我們的手、眼睛或者是腿。意識是一個主觀的東西，像愛、疼痛、愉悅這種感覺。而這種感受是一個接一個的，比如說愛恨交織，或者憤怒交加，這才是組成了大腦意識的元素。

所以大家對於意識和大腦其實也有困惑，它們兩者是互相關聯的，但它們不是同一個東西。大腦是什麼呢，它是一個非常複雜的組織，裡面有很多神經元，很多化學物質。意識控制的是主觀的信息流，我們每時每刻都感受到一些感覺，恨、愛。它不是非常形而上的東西，它是世界上最普遍的東西，也就是我們每時每刻所感受到的，這就叫做意識。

現在一些科學的結論，尤其是生命科學中，解釋了大腦、意識，並說意識是從大腦中得出的，大腦產生了意識。它也解釋了大腦是一個生物化學的載體，讓我們能夠處理數據，做出決策。

總結一下，在過去 150 年生物化學研究中，從達爾文開始，人們得出的是，生物體就是演算法，這是一個最大的理論結果，是進化論的精髓。生物體，比如說人類、哺乳動物，都是演算法。他們是機器，處理數據的機器，做出決定。所以我們的感受，我們的感官是這個大演算法中的一部分。

意識研究依舊「前路漫漫」

那麼，到底是什麼感情，它該如何處理，如何做出決策，如何計算，如何處理這些數據。我們想像一個非常典型的問題，生物體每天都會面對的一個問題：狒狒在非洲的大草原上，他看到前面一棵樹上有香蕉，它想吃香蕉。但是在樹的不遠之處還有一頭獅子，現在狒狒面臨兩難的抉擇，它需要做出一個決策，去拿香蕉，可能就會被獅子吃掉。或者做另外一種決策，這種問題的本質其實就是數學計算可能性的問題，到底哪個可能性更大。

如果狒狒不吃香蕉，死的幾率多大。如果它吃香蕉，獅子吃掉它的可能性有多大，必須要計算兩者的可能性誰更大。所以我需要去採集很多數據，關於香蕉的數據，上面有幾個香蕉，香蕉的大小是多大。它們是青香蕉，還是熟香蕉，這會有完全不一樣的結果。然後看一下獅子在哪裡，是大獅子還是小獅子。它是剛吃過飯還是很餓，所以要採取一些數據，還要評估自己的身體到底有多餓。計算這個可能性可以幫助它做正確的決策，這需要幾秒鐘的時間收集數據，然後再做出決策，那麼狒狒到底要怎麼做呢。

它沒有拿出一隻筆一張紙計算可能性，所有狒狒的身體結構、意識、神經網路、大腦，正在不斷的進行計算。在幾秒鐘的時間，它已經獲取了大量的數據，對於這些香蕉樹或者獅子的數據。並且在它的大腦中，數百萬的神經元正在不斷的燃燒，計算可能性。最後的結果不是數字的形式出現，它的結果是以一種情感，一種感受的形式出現。如果說被獅子吃掉的可能性太大，它就會產生一種非常害怕的情感。狒狒可能會逃走，感到很害怕。

如果說這頭獅子在睡覺，有很多香蕉，它就可以去采香蕉，它的決定非常有勇氣。狒狒就會挺起胸膛，爬樹上吃香蕉。這是現在關於意識，關於感受的一些理論來源，它的例子能夠幫助我們計算各種可能性，並且得出最後的結果，這也是世界對於我們生活的一種行事方式。

還有兩個問題，在這個理論當中還有一些漏洞。我覺得科學的想法是對於宗教相悖的，宗教想要無所不知。科學對於不知道的知識是敬畏的，如果說有一些東西不知道，科學家會做出研究得到答案。在講到意識和認知時，還有一些是我們不知道的，我們並不知道大腦是如何產生認知或者是意識的。我們可以找到其中的相關性，可以看顯微鏡或者掃描，看其中的聯繫。但我們不知道的是它到底是怎麼發生的，也就是意識到底是怎麼樣做到的。

有上百萬的神經元在發出相應的信號，是怎麼樣導致害怕、愛、疼痛的感覺，這方面我們一無所知，我們還不知道一個好的理論。諷刺的是，我們能很好的了解大腦，但我們為什麼需要這個認知？很多年之前，當我們對大腦一無所知時，認知可以很容易做相應的解釋。為什麼狒狒從獅子那邊逃跑，因為它害怕。為什麼它想要吃香蕉，因為它渴望這個香蕉。

現在我們能夠做更好的解釋，並且能夠明白神經元發出信號和處理的過程。狒狒看到一個獅子，然後一個神經元發出信號，到另外一個神經元，最後再到腿，讓狒狒開始逃跑。我們做的研究對於認知有了更多的問題。如果沒有這樣的現象，沒有主觀的感知，可能神經元就沒有發出信號。但它發出這個信號，是不是因為它有害怕的感覺呢。還是說只因為我們心理的感知，我們在這方面一無所知。

大概不久之前剛剛出來的一個理論：我們需要認知，是為了創造對於這個世界的理解，或者說大腦的理解。並且把我們自己放入到這個世界當中，如果說我是一個動物，我想要知道這個世界是怎樣的，這樣的話就需要大腦來讓我有這樣的意識。

隨著人工智慧的發展，我們知道可以在沒有意識，沒有認知的情況下做到一些東西。就像無人駕駛汽車可以在非洲大草原上跟動物一樣奔跑一樣，它可以在地上跑，但也需要地圖。它需要一個自我處理系統，但它在這方面做得很好，不然也沒有辦法安全在道路上行駛。可實際上它並沒有認知，無人駕駛的汽車可以和其它汽車做一個溝通，但當一個大卡車過來時，它並不會感到害怕。

我們對於認知的了解缺少相應的方法，或者是工具。如果我們想要研究大腦的話，就有很多非常成熟的工具。比如說有核磁共振、顯微鏡等等。用這樣一些工具，我們可以看到這個神經元在動作。但卻看不到我們的感覺，或者說害怕、痛苦、愛。

所以今天，我也不知道未來會怎麼樣，在 2017 年唯一一個能夠接觸到的認知，就是我們自己的認知。我可以看到你們的大腦，可以研究你們的大腦，而且是用非常成熟的工具，但是我卻看不到你們的認知。我沒有辦法直接接觸到你的感覺，你的情感，這是非常難的科學研究。

嘗試更多方法的努力

科學最基礎的一個原則，是在做研究時需要直觀的看到它。認知呢，我們沒有辦法看，沒有辦法直接觀察，唯一能看的就是我們自己的認知。如果說我們想要看認知時，可能會被恐懼、愛、憤怒所覆蓋。

有一些比較古老的文化，在中國，在印度，或者在世界其它的地方，他們在幾千年前開發出一種方法，能夠幫助我們系統的觀察自己的大腦，這種方法就是冥想。冥想一般都是和宗教相連的，很多情況下都是這樣的。冥想實際上是一個工具，特別是對於這些邪教或者宗教的工具，但並不意味著這是它唯一的功能。比如我們可以使用書，科學家也可以使用書，科學家也可以試著用冥想的方法直接觀察認知發生了什麼。

我自己的一個例子。在牛津大學讀博士時，我學到了維帕薩納冥想。冥想的技能，在生活當中不管發生了什麼，它都和身體感知連接得非常緊密。觀察認知的方法就是觀察身體的感知，因為認知和世界的聯繫中都有感知在其中。對於外部發生的事情都有感知，不管是氣候變化還是郵件上看到的信息，或者是新聞，或者是過去的記憶，都會做相應的反應。

認知唯一感受到的，唯一做出反應的是自身身體的感知。所有生活當中發生的或者即將發生的，你都會有身體的感知，並且做出相應的反應。不管是說產生渴望，或者說快樂，或者說不開心的感覺。或者你不喜歡，你都會有感覺，這就是為什麼在外界發生了同樣事情時，不同的人會有不同的反應。

比如說在 2001 年「9.11」時，成千上萬的人在電視上看到恐怖襲擊的發生，發生在紐約的世貿大廈。但並不是所有人的反應都是一樣的，有的人感覺到害怕，有的人覺得非常生氣。甚至有人會感覺到非常開心，特別你就是那個恐怖組織的成員。同樣一件事情，你的反應卻不一樣。因為在電視上的畫面和你大腦的反應之中，這中間是有一個不同的身體感知。我們的恐懼對於厭惡、開心、愛的感知是不一樣的，所以要調查來研究認知。

比如我要對憤怒了解得更多，為什麼我要憤怒。通常我們看到外面的世界，來找到為什麼我會生氣，誰讓我生氣。這實際上是從外在關注憤怒，可能有人說了你不喜歡聽的，才讓我非常憤怒。這樣的話，我需要對這個人進行控制，或者對這個情況進行控制。這樣的話，我就不會再有這樣不開心的憤怒感。但如果說你真的想了解到底憤怒是什麼，那麼你就需要觀測在身體裡面到底發生了什麼時候，特別是在我感到特別生氣時發生了什麼。

有人四十、五十歲了，但他從來也沒有觀察過憤怒的基本過程。他們沒有花過哪怕 5 分鐘的時間，來觀察到底憤怒是什麼？我的認知或者身體當中對於憤怒是一個什麼感覺？如果觀察的話，會發現包括痛苦，這都不是外界世界的感覺，是認知生成的一種感覺，它是一種反應。

我並不是在說不要研究大腦，或者說智能只去研究認知，意識。我們需要找到很多好的研究，通過大腦的研究與智能聯繫在一起。認知，就像是硬幣的另一面，像在挖一個地道，如果從兩邊開始的話會更容易一些。我們的大腦和認知就是硬幣的兩面，我們現在還不知道它們具體的關係，卻已經知道它們就是硬幣的兩面。我們也知道它們並不是一樣的，同樣會花一些精力來研究認知或者意識，而不僅僅是著重於智能或者大腦。

了解認知或者意識是非常重要的。因為這其中所蘊藏的是人工智慧會帶來的巨大變革。我們要用這力量做些什麼？作為歷史學家，我在看歷史時，看到的是在幾千年前人類在獲取權力上都做得非常好。但在權力轉化為快樂方面做得並不是太好，我們並不知道怎麼做。這就是我們比孔夫子那個時代、石器時代的人更有權力，但並不意味著我們比那個時候快樂上萬倍的原因，因為這和認知相關。我們比祖先擁有更多，也期待更多，這也是人類認知對於快樂最大的反應。

我們的認知，對於快樂最大的反應是渴望得到更多。不管能夠達成什麼結果，或者能夠擁有什麼權力。如果我們沒有辦法了解或者改變認知的更深層次結構，那沒有什麼讓我們最終滿足。這當中存在著危險性，我們對於這樣的創造和建造越有權力，就越會成為不容易滿足，且不負責任的一群人。

謝謝大家。

編輯：早優夫斯基

本文由極客公園原創

轉載聯繫 wangxue@geekpark.net