Elon Musk最新AI薦書：《Life 3.0-Being Human in the Age of AI》

矽谷這周在談論一本Elon Musk 推薦的新書，這本書昨天剛剛出版上市。

不出所料，這本書是有關AI和人類的未來的，討論我們將如何和AI快樂地玩耍，書名是《Life 3.0 － Being Human in the Age of AI》，作者是MIT 教授 Max Tegmark, 一位知名的物理學家。

Tegmark教授是「Future of Life Institute 未來生命研究所」的聯合創始人，該研究所是波士頓的一個研究全球災難性風險的研究機構，特別關注AI。

Tegmark教授的新書剛出版，Elon Musk就在Twitter上力薦，這本書也因此備受關注。教授顯然高興壞了，立馬在Twitter上回應。

《Life 3.0》概述了人類社會安全研究的現狀，以及如果我們希望將技術造福人類社會，我們需要回答的問題。

Tegmark並不認為AI終結者場景是不可避免的，但擔心我們對人工智慧缺乏足夠的思考。著名物理學家史蒂芬霍金多年來一直敦促研究人員更多關注人類安全。 Elon Musk和Microsoft合作創建了OpenAI，也致力於同一個問題。Musk於2015年向Future of Life Institute捐贈了1000萬美元。

到底什麼是生命3.0？

這周Verge記者採訪了Tegmark教授，下文是這次對話的節選。

問：這本書的標題為什麼是「Life 3.0」，什麼是Life 1.0和2.0？

我將生命視為任何可以保持其複雜性和複製性的過程。

生命1.0像細菌一樣。細菌是以簡單的演算法來控制放在一起的小原子之間的作用。例如，當細菌發現前方的糖濃度高於後面時，它就會向前移動，但是如果它注意到它前面的糖濃度較低，它就會轉身。但細菌一生中永遠不會真正學習任何東西。細菌學習的唯一方法是通過多代進化。

今天的人類是我所說的「生命2.0」。我們的身體主要由進化而來，但我們擁有學習的能力。我們很強大，可以將新的「軟體／知識」上傳到我們的大腦。例如，如果您決定要成為律師，您可以去法學院，法學院將新演算法上傳到您的大腦，以便您可以擁有律師的專業知識。

人類設計自己的演算法，而不必等待進化，這使我們能夠主宰這個星球，創造現代文明。文化演進恰恰來自於我們一生可以複製其他人的想法和知識。

生命3.0 是完全擺脫進化枷鎖的，不僅可以設計其軟體／演算法，還可以設計其硬體／載體。換句話說，如果我們創造出至少與我們一樣聰明的AI，那麼它不僅可以設計自己的軟體來學習新的東西，還會試圖升級內存來記住百萬倍以上的信息，或獲得更多的計算能力。

相比之下，人類可以有心臟起搏器或人造膝蓋，但我們不能徹底改變自己。在思考中，你永遠不會使自己變得更快一千倍。我們的智慧是由生物神經元組成，從根本上限制了大腦的質量，但AI並不是這樣。

問：有些人仍然懷疑超級智慧將會發生，但你似乎強烈地相信，這只是一個時間問題。你是一個物理學家，從什麼角度來看這個問題？

大多數人認為智力是神秘的，限於生物體。但我從物理學家的角度來看，智能只是基本粒子按照物理學原理進行的信息處理。物理學中沒有什麼限制，讓我們不能創造比人類更聰明的機器，智能無須從有機物質中產生。我不認為智能需要碳原子或血液。

在寫書的過程中，我一直在想物理學對於人類智能的最終限制是什麼，簡短的答案是沒有限制，我們可以比現在數百萬倍的聰明。我們的宇宙有很大的潛力等待喚醒，我認為這是一個鼓舞人心的想法。

問：關於AI會威脅人類的未來，從懷疑論者到技術烏托邦都有，你把自己放在哪裡？

我樂觀地認為有可能創造出超級智能，也很樂觀地認為，我們可以用AI創造一個美好的未來。但是我不認為這是理所當然的，所以我很謹慎。有一些至關重要的問題，可能需要30年才能回答。我們現在應該開始思考，而不是等到超級智能出現的前一天晚上。

問：什麼樣的至關重要的問題？你說你並不專註於所謂的「近期」問題，就像自動化如何影響工作一樣。

現在有很多AI會搶人類工作的話題，人們往往會忘記，更重要的是看下一步是什麼。我在思考的問題是，我們如何將今天容易被黑客侵入的計算機成為更強大的AI系統？如何使AI系統在變得越來越聰明時，明白我們人類的目標？

當你的電腦崩潰時，你會覺得很煩人，你失去了一個小時的工作時間；但是如果這台電腦控制著你正在飛行的飛機，或是美國的核武庫，這就是至關重要的問題。

AI應該有什麼樣的目標？美國一些程序員的目標，還是ISIS或中世紀人的目標？我們應該創造什麼樣的社會？看看美國社會現在有多麼兩極分化。我們必須很清楚地知道我們想要什麼。因為我們創造的社會影響到所有人，所以不應該把這樣的談話只留給我這樣的技術極客。

問：您討論的許多問題都是宏觀的，例如法律需要更新，以跟上AI的發展。但一般人應該做什麼？

關注這個話題是一個很好的開始。事實上，我們上次大選中的兩位總統候選人都沒有談到AI，儘管我認為這是我們面臨的最重要的問題。人們在投票時並沒有關心AI的話題。

問：我們的這次對話，您認為怎樣才算達到目的？

我們投入了數十億美元，使AI更加強大，但幾乎沒有人工智慧安全研究。世界上沒有一個政府表示，人工智慧安全研究應該成為其計算機科學基金的一個組成部分，這就像在沒有資助核反應堆安全的情況下而資助建造核反應堆。

我們正在大手筆投入AI研究，卻沒有AI安全預算。我知道AI科學家都認為，為AI安全提供更多的研究資金是一個好主意，我希望看到它成為現實。

－ 本文源自Verge

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！