Kevin Kelly解讀人工智慧狂熱：破解超人類人工智慧的五個假設

我聽說未來的計算機人工智慧會變得比我們還要聰明得多，它們將奪走我們所有的工作和資源，而人類將會滅絕。這是真的嗎？

這是我每次談論人工智慧時最常碰見的問題。提問者是認真的；他們的擔心部分源自於一些會問自己同樣問題的專家。這些人都是當今世上中最聰明的一部分群體，比如史蒂芬·霍金、埃隆·馬斯克、馬克思?泰格馬克（譯註：Max Tegmark，MIT 物理學家，著有《平行世界，平行生命》）、薩姆·哈里斯（譯註：Sam Harris，《自由意志》一書作者、神經科學家、哲學家）和比爾·蓋茨，而他們認為這種情況很可能是真的。最近，在一個有關人工智慧問題的討論會上，一組由九位最知名的人工智慧大師組成的專家小組一致認為，這種超人類智能是不可避免的並且離我們並不遙遠，可在這裡查看他們的討論：

然而，超人類人工智慧接管人類的情況是有五個假設作為前提的，如果一一對其進行檢查的話會發現它們並不基於任何證據。這些說法在未來可能是真的，但到目前為止還沒有證據作為依託。即將成真的超人類智能背後的這些假設是：

1.人工智慧已經以指數級的速度變得比我們還要聰明了。

2.我們將使人工智慧成為一個通用的智能，就像人類自己那樣。

3.我們可以在晶元中製造人類智能。

4.智能可以被無限擴展。

5.一旦我們有了井噴式的超級智能，它就可以解決人類的大部分問題。

與這種正統觀念截然不同，我發現了以下五種反假設，它們有更多支持證據：

1.智能不是一個單一的維度，因此，「比人類聰明」是一個毫無意義的概念。

2.人類並沒有通用的頭腦，而人工智慧也不會有。

3.運用其它媒介對人類思維進行的仿效將受制於成本。

4.智能的維度不是無限的。

5.智能只是進步的一個因素。

如果對一個超人類人工智慧接管人類的預期是建立在五個沒有證據基礎的關鍵假設之上，那麼這個想法更類似於一個宗教信仰——一個神話（myth）。在下面的段落中，我分別擴展了對這五個反假設的證據，並舉例說明，事實上一個超人類人工智慧就是一種神話。

一

關於人工智慧最常見的誤解始於對自然智能的普遍誤解。這種誤解認為智能是單一維度的。大多數技術人員往往以 Nick Bostrom 在他的書《超級智能（Superintelligence）》中所使用的方法——作為表示幅度增加的一個逐字的單維線性圖——來描繪智能。其中一端是低智能，比如某種小動物；另一端是高智能，比如一個天才——就好像智能是一個以分貝來表示的聲音大小等級。當然，之後就很容易進行延伸想像，智能的響度繼續增長，最終超過我們自己的高智能，成為一個超越人類的超級響亮的智能方式——一聲咆哮！——甚至可能越出圖表的範圍。

這種模型的拓撲結構相當於一個梯子，因而智能的每一個梯級就是一層層地遞增。劣等動物位於我們下面的較低層，而更高級別的智能（也即人工智慧）將不可避免地超越我們而登上更高的階梯。這種情況發生的時間尺度並不重要；重要的是排名——這是智能增加的指標。

這個模型的問題在於其本身是虛構的，就像進化的階梯。在達爾文之前人們假定自然世界有一架生物存在（being）階梯，其中低等動物居於人類下面的階梯上。即使在達爾文之後，一個非常普遍的概念是進化階梯，其中魚類進化成爬行動物，然後進入哺乳動物階段，繼而進化為靈長類動物，最後進入人類階段，每一次進化都比之前更加高級（當然也更加聰明）。所以智能的階梯與存在的階梯是平行的。但這兩種模式都提供了一個完全不科學的觀點。

一張更精確的物種自然進化圖是一個向外輻射的圓盤，就像由德克薩斯大學的 David Hillis 首次設計的這張圖（上圖）那樣，它是基於 DNA 的。這個深度宗譜曼陀羅以最原始的生命形式從中間開始，然後在一段時間之後向外分支。時間向外移動，使得居於該星球上最近期的生命物種構成了此圈圓周的周長。這幅畫著重強調了一個難以理解的進化方面的基本事實：現世存在的每一個物種的進化程度都是相等的。人類與蟑螂、蛤、蕨類植物、狐狸和細菌一起存在於這個外環上。其中的每一個物種都經歷了一個跨度三十億年的成功繁殖的完整鏈條，這意味著現在的細菌和蟑螂與人類的進化程度是同等高級的。並不存在階梯。

同樣，也不存在智能階梯。智能不是單一維度的。它是多種類型和認知方式的綜合體，每個都是一個連續體。讓我們做一個非常簡單的任務：測量動物的智能。如果智能是單一維度的話，我們應該就能將一隻鸚鵡、一隻海豚、一匹馬、一隻松鼠、一隻章魚、一隻藍鯨、一隻貓和一隻大猩猩的智能按照正確的升序位置排列成一行。而我們目前還沒有支持該排序結果的科學證據。其中一個原因可能是：動物智能之間沒有區別，但我們也無法證明這點。動物的思考方式差異顯著。但也許它們有著同樣相關的通用智能（general intelligence）？可能是這樣，但我們沒法測量，也沒有衡量該智能的單一指標。相反，我們針對許多不同類型的認知類型有著許多不同的指標。

一個更準確的智能模型是要繪製出它的可能性空間（possibility space），而不是一條單一的分貝線，如上圖中由 Richard Dawkins 寫的演算法所創造的可能形式的渲染。智能是一個組合的連續體。多個節點，每個節點都是一個連續體，創建高度多樣性的高維複合體。有些智能可能很複雜，有許多思維的子節點。其它的可能更簡單，但也更加極端，處於空間的某個偏遠角落。這些我們稱之為智能的複合體可以被認為是包含多種樂器類型的交響樂。不僅在響度方面，它們在音高、旋律、音色、節奏等方面也有差異。我們可以把它們看作生態系統。從這個意義上說，思維的不同組成節點是相互依存並且是被共同創造的。

用 Marvin Minsky 的話來說，人類的心智就是心智社會（society of minds）。我們運行在思維的生態系統之上。我們包含多種類型的認知，這些認知做著許多類型的思考：演繹、歸納、符號推理、情緒智能、空間邏輯、短期記憶和長期記憶。人類內臟之中的整個神經系統也是一種類型的大腦，有其自己的認知模式。我們並不是真的僅僅用腦子思考；而是用全身進行思考。

.

各個個體與物種之間的這套認知體系各不相同。一隻松鼠能記得幾年前存放幾千粒橡子的確切位置，這是人類思維難以辦到的。所以在那一種認知中，松鼠是超過人類的。那種超能力包含了一些與人類能力相比並不顯著的其它模式，從而會產生一隻松鼠的思維。在動物王國中，還有許多比人類優越的其它認知專長，再次被包含進不同的系統中。

人工智慧領域也是如此。人造心智在某些維度上已經超過人類。你的計算器是數學方面的天才，谷歌的記憶在某一維度上已經超出了人類自己的記憶能力。我們正使人工智慧在某些特定模式中被設計為最佳。其中的一些模式是我們人類就可以完成的，但是它們還可以被設計得更好，比如概率或數學方面。其它還有一些我們人類根本無法辦到的思維類型——記住六十億張網頁上的每一個詞，這是任何搜索引擎都擁有的技能。在未來，我們將發明一種全新的認知模式，這種模式不存在於人類身上，也不存在於任何生物學領域。當我們發明人造飛行機時，我們受到了生物飛行方式的啟發，主要就是拍動翅膀。但是我們發明的這個飛行機——-螺旋槳固定在一個固定寬翼上——是一個新的飛行模式，它在我們的生物世界中是未知的。這是截然不同的飛行方式。同樣，我們也會發明自然界中不存在的全新的思維模式。在許多情況下，它們都會是針對具體工作的那些新而狹窄的小型具體模式）——或許某種類型的只在統計學和概率論中有用的推理。

在其它情況下，新的心智將會是複雜類型的認知，我們可以用它來解決單憑人類智能所不能解決的問題。商業和科學中的一些最困難的問題可能需要一個兩步解決方案。第一步是：創造一種新的思維模式與人類心智一起工作。第二步：結合二者以解決問題。由於我們正在解決的是之前所無法解決的問題，因此我們想要將其稱為比我們聰明的認知，但實際上它與我們是不同的。思維的差異是人工智慧的主要好處。我認為一個有用的人工智慧模型就是把它看作是外星智能（或人造外星人）。它的異質性將成為其主要資產。

同時，我們會將這些不同的認知模式整合到更加紛繁複雜的心智社會中。其中一些複合體會比我們人類更加複雜，而由於它們能夠解決我們不能解決的問題，因此有些人會想稱其為超人類。但我們不會把谷歌稱作是一個超人類的人工智慧，即使它的記憶能力在我們之上，因為在很多事情上我們可以做得比它更好。這些人工智慧複合體肯定會在許多方面超越我們，但沒有一個實體會擁有全盤的勝算。這類似於人類的體能。工業革命已經持續了 200 年，而當所有機器作為一個可以擊敗單個人的體能成就（跑步速度、舉重、精密切割等）的類別時，卻沒有一台機器可以打敗一個普通人所做的一切事情。

即使某個人工智慧中的心智社會變得更加複雜，這種複雜性在目前還很難被科學地度量。我們沒有良好的複雜性操作指標能夠用以判斷黃瓜是否比波音 747 更複雜，或者它們的複雜性可能會有所不同。這也是我們沒有智能度方面的良好指標的原因之一。要確定心智 A 是否比心智 B 更加複雜是一件非常困難的事情，智能度的比較同理。我們很快就會達到那個明顯的認知上來：「智能度」不是單一維度的，而我們真正關心的是智能運轉的許多其它方式——我們尚未發現的所有其它認知節點。

二

有關人類智能的第二個誤解是我們對於通用智能的信念。這種反覆的信念影響了人工智慧研究者的一個常見的既定目標，即創造一個通用人工智慧（AGI）。然而，如果我們認為智能提供了一個很大的可能性空間，那麼就不會存在通用狀態。人類智能並非處於某個中心位置且周圍有其它的特殊智能繞其旋轉。相反，人類智能是一種非常特定類型的智能，已經演變了數百萬年，使我們的物種生存在這個星球上。在所有可能的智能空間映射中，人類智能類型將被困在某個角落，就像我們的世界被困在廣闊的星系邊緣一樣。

我們當然可以想像甚至發明出一個瑞士軍刀類型的思維。它可能在許多事情上都能表現得不錯，但沒有一個會特別好。人工智慧將遵循同樣的工程學準則，這也是所有事物被發明和創造所必須遵循的準則：你不能優化每一個維度。你只能權衡。你不能讓一個通用的多功能單元去優於那些特定的功能。一種每件事都做的大心智不能在每一件事上都做到和那些專用代理一樣好。由於我們認為我們人類的心智是通用的，因此我們往往認為認知不符合工程師的權衡，那麼就有可能建立一個最大限度提高所有思維模式的智能。但我對此沒看到任何證據。我們只是沒有發明足夠的心智類型來觀察整個空間而已（並且到目前為止，我們已經傾向於把動物的心智作為單一維度上一種幅度可變的單一類型來看待。）

三

這種最大化通用思想的一部分信念來自於通用計算的概念。後者在 1950 年被正式描述為丘奇-圖靈假設（Church-Turing hypothesis），該猜想認為，滿足一定閾值的所有計算都是等價的。因此，所有計算都擁有一個普遍的核心，無論它是發生在一台擁有眾多快速或緩慢運轉的部件的機器之上，或甚至於是發生在一個生物腦中，它們都遵循相同的邏輯過程。這意味著你應該能夠在可以做通用計算的任何機器上模擬任何的計算過程（思維）。奇點論者對於製造硅腦來持有人類思想的期望就是依靠這一原則，他們相信我們能夠造出像人類一樣思考的人工心智，只是後者更加聰明。我們應該對這種希望持懷疑態度，因為它依賴於對丘奇-圖靈假設的誤解。

該理論的出發點是：「給定無限的磁碟空間（內存）和時間，所有計算都是等價的。」問題是在現實中，計算機並沒有無限的內存或時間。當它在現實世界中運行時會產生巨大的實時差，這通常是生與死的時差。是的，如果你忽略時間，所有的思維都是等價的。是的，你可以在任何你想要的矩陣中模擬人類類型的思維，只要你忽略時間或現實生活中的存儲和記憶約束。然而如果你納入時間因素，那麼你就得以一種重要的方式對該原則進行重申：在差距很大的平台上運行著的兩個計算系統不會是實時等值的。還可以這樣說：獲得相同思維模式的唯一方法是讓計算機運行於相同的平台基底之上。運行計算的物理物質——特別是當它變得更加複雜時——會極大地影響實時情況下能夠被實現得很好的認知類型。

我將更進一步並斷言：獲得一個極其類人的思維過程的唯一途徑，是將計算運行在類似人體那樣的濕組織之上。這也意味著，運行在乾燥晶元之上的極其龐大而複雜的人工智慧會產生大而複雜的非人類思想。如果能用人工生長的神經元來構建人造濕腦，我預測它們的思想與我們的會更加相似。這樣一個潮濕大腦的好處正比於基底與人腦的相似度。創建濕件的代價是巨大的，而該組織與人類腦組織越接近，那在成本效益上就越不如直接製造一個人類。畢竟，製造一個人類是我們在九個月之內可以做到的事情。

此外如上所述，我們是用自己的整個身體進行思考，而不只是使用頭腦。我們有大量的數據顯示出我們的內臟神經系統如何指導我們的理性決策過程，並能夠預測和學習。我們越多地模擬整個人體系統，我們就越能夠複製它。運行在一個十分不同的身體（乾燥的矽片而非潮濕的碳基）之中的智能，其思考方式也不一樣。

我不認為這是一個 bug，而是把它看做一項特性。正如我在第二點中談到的，與人類不同的思維方式是人工智慧的主要資產。這也是為什麼我認為稱它比人類聰明是一種誤導的另一個原因。

四

超人類智能（superhuman intelligence ）的核心——特別是智能將自主改進這個觀點——是智能不存在發展極限的根本信念。不過我沒有找到任何支撐該論斷的證據。再次，將智力誤解為評判的唯一尺度助長了上述信念，不過我們也僅需要將其理解為一個信念即可。就目前科學所知，宇宙中不存在無限的物理尺度。溫度的高低不是無限的——低溫和高溫都是有限的。同理，時間、空間、速度都非無限。或許數字是無限的，但是其它所有的物理屬性都是有限的。按理說人類理性自身也是有限的。於是問題就成了：智能的極限在哪裡？我們傾向於相信這個極限遠非我們所及，這種距離就猶如我們與一隻螞蟻的差距一般。拋開一直反覆出現的「唯一尺度」問題，我們有什麼證據來證明這個極限就不是我們呢？為何我們就不能作為這個最大極值呢？亦或是這個極限距我們不遠？為何我們要相信智能就是可以永遠擴展下去的呢？

一個思考這個問題更有效的方式是，將我們人類的智能視作百萬種可能智能的一員。所以，雖然每種認知能力和計算能力都存在一個極限，但是，如果存在成百上千種，那麼便會有數不清的繁多的思維存在——它們其中沒有一個在任何層面上是無限的。當我們構建或是遭遇這些思維的時候，我們或許會很自然地認為它們其中一部分已經超越了我們。在我最近初版的《必然（The Inevitable）》一書中，我勾勒出了這一部分在某種層面比我們高級的思維存在。以下是一份不完整的表單：

一種類似於人類心智的心智，只是回答速度更快（可以想到的最簡單的人工智慧心智）

一種非常慢的心智，主要由巨量存儲和記憶構成

由數百萬單個較為蠢笨的心智聯合構成的全局超級心智

由許多非常聰明的心智構成的蜂巢心智（hive mind），但並不知道它/它們自己是一個蜂巢

一種半有機半機械（borg）的超級心智，由許多非常聰明的心智構成，這些心智也清楚自己自己構成了一個聯合體

一種被訓練用來專用於增強你的個人心智的心智，但對其他人沒什麼用處

一種能夠想像更好的心智的心智，但不能創造它

一種能夠創造更好的心智的心智，但對自己還不夠了解，所以無法想像它

一種能夠創造出更好的心智的心智，只能創造一次

一種能夠創造出更好的心智，且該心智還能繼續創造更好的心智的心智

當下有些人會想將這每一種思維存在都稱為超人工智慧。但是這些心智的如此這般的多樣性與差異性將會帶領我們找到關於智能和智慧新的概念和洞見。

第二，相信超人工智慧的人們會假設智能將指數式地增長（在一些未知的單一衡量標準上面）。這大約是因為他們也假設認為智能已經在指數式地增長了。然而，目前為止，沒有證據顯示（無論你怎麼測量它）智能正在如此增長。我所謂的指數式增長是說，人工智慧在一定的時間間隔里發生冪函數式的翻倍。我根本不能找到這個說法的證據。如果沒有這樣的證據，那麼為何我們還要假設它將在不久之後發生呢？唯一會呈現指數曲線增長的只有人工智慧的輸入，也即那些被用於生成智慧或智能的資源。但是輸出性能並不會按照摩爾定律增長，人工智慧不會每3年或10年就聰明一倍。

我詢問了很多人工智慧專家以求得到人工智慧性能在以指數式增加的證據，但是他們所有人都同意我們並沒有衡量智能的標準，此外，（即便在特定領域）智能也不是以指數式增長的。當我問到雷·庫茲韋爾，他提出的指數增長這一概念，人工智慧指數增長趨勢的證據在哪裡，他回復我說，人工智慧不以指數式增長，但是其發展水平（level）是在以指數式增長。他說：「計算性和演算法複雜度層面共同發生的指數式進步會在整個發展過程中不斷為其添加上新的進展層級（level）……於是我們就能夠期待去線性地添加這些層級。因為要進一步添加新的層級就需要更大的指數複雜度。實際上，我們的能力在不斷指數式地前進。」我們距離可與自己一教高下的所謂新皮層（neocortex）層級並不遙遠，因此，於我而言，我所預計的2029年這個節點（註：庫茲韋爾預計2029年為其所謂的奇點元年，即人工智慧超越人類智能的時間）依然適用。

庫茲韋爾的意思似乎不是說人工智慧的力量在指數爆炸，雖然人工智慧的輸出在一定時間裡僅僅會上升一個層級，但是那種創造這種智能的努力在指數式的爆炸。這幾乎站在了智能正在爆炸這個觀點的反面。未來說不準，不過就現在而言，很顯然人工智慧沒有指數式地增長。

因此，當我們設想一個智能爆炸的場景時，我們應該想像它是新品種的落英繽紛，而非如注的暴雨傾盆；一個寒武紀式的生命爆發，而非核武器式的鏈式爆炸。加速的技術帶來的結果將不太可能是超人類（super-human），而是非人類（extra-human）。它們外在於我們的經驗，但不一定超越我們。

五

關於超級人工智慧，還有另一個未批判就被人接受的信念，它沒有任何證據支撐，這個觀點即：一個超級的、幾乎無限的智能可以快速解決我們那些主要的未被解決的問題。

很多擁護智能爆炸的觀點都期盼它也將促發進步的爆炸。我稱此為神話般的信念，即意淫主義（thinkism）。未來進步的水平僅由缺乏思想的力量或是智力所阻礙，這個想法是存在謬誤的。（我也或許注意到了這樣一個現象，那種認為思想是可以治癒一切的靈丹妙藥的觀點被很多喜愛思考的人持有。）

我們以治癒癌症或延長壽命為例，這些問題不是單單靠思考就可以解決的。任何一個意淫主義者都不會發現細胞的衰老，或是端粒的脫落。沒有一個智能，無論它多麼厲害，可以僅憑閱讀現今世界上所有已知的科學文獻，然後就對其產生深思。沒有一個超級人工智慧可以簡單地思考所有現今和過去的核裂變實驗，然後就能在一天之內想出可工作的核聚變方案。在事物工作方式的未知層面和已知層面之間還需要除思考之外的很多東西。在真實的世界中存在著無數的實驗，它們其中的每一個都會產生出更多的矛盾的數據，這些數據需要進一步的能夠形成正確的可工作的假設的實驗來研究。僅僅是對潛在數據的思考將不會產生正確的數據。

思考（智力）僅僅是科學的一部分，甚至或許是一小部分。例如，我們沒有足夠恰當的數據去接近如何解決死亡的問題。大部分活體有機體的實驗都需要花很長時間。一個細胞的緩慢新陳代謝不會加速。它們會花數年、數月或至少數天才能給出結果。如果我們想知道在亞原子層面發生了什麼，那我們不能單靠思考去把握它。我們必須建造非常巨大、複雜且精妙的物理結構才能找出結果。即便那些最聰明的物理學家比他們現在還要聰明1000倍，沒有粒子對撞機，他們也不會知道任何新的東西。

毫無疑問，一個超級人工智慧會加速科學的進程。我們可以在計算機上模擬原子或細胞，並且我們可以通過引入很多因素來讓它們持續加速。但是在立即獲得進展的過程中，有兩個問題限制了模擬的可用性。首先，模擬和模型只會比它們的本體更快，因為它們遺漏了一些因素。這是一個模型或模擬的本質。也值得注意。這些模型的測試、檢查和證明也必須花和其本體一樣長的時間才可以說它們和其本體是匹配的。對自然真理的測試不能被加速。

這些模擬當中的簡化版本可以有效地篩選出最有前景的可能道路，因此，它們可以加速進程。但是現實世界中沒有多餘；現實的一切都具有某種程度的獨特性，這是現實的定義之一。當模型和模擬被越來越多的細節所加強之後，它們會遭遇如下限制：現實會比一個100%對其模擬的模型來得更快。這是對現實的另一個定義：當前自由所有細節和程度的最快的可能性版本。如果你能夠模擬一個細胞中所有分子以及人體里的所有細胞，那麼這個模擬就不會和人體過程一樣快。無論你思考了多少東西，你任然需要花時間去做實驗，不管是在真實系統中或是在模擬系統中。

人工智慧必須在現實世界中發揮作用才能體現其價值，而這個世界也會反過來制衡其創新節奏。從試驗到原型到失敗再到實踐，如果沒有這些，人工智慧僅僅是一種理論而毫無實際價值。如果沒有每一分鐘、每一小時、每一天或者每一年的創新發現，也不會出現比人還聰明的人工智慧，而人工智慧的發展無疑會顯著加快其自身的進步速度，部分原因是由於外星人般的人工智慧會問出人類不會問及的問題；但是人工智慧的強大（相比於人類）並不意味著會立即帶來進步。解決問題所需要的遠不止是智能。

單靠智能不僅解決不了癌症和壽命延長問題，應用到智能自身也如此。奇點鼓吹者慣用的一個說法是，一旦你造出了一個比人類聰明的人工智慧，那麼它立即就會努力開發，造出一個比它自己還要聰明的人工智慧，然後以此類推，直到產生指數爆炸，智能體幾乎會變成類似上帝一般的存在。我們沒有證據表明僅靠對智能的思考就可以創造出更高級的智能。這種意淫主義只是一種信念罷了。我們有很多證據表明，這項工作除了需要大量的智能外，還需要實驗的支持、數據、嘗試、錯誤和不尋常的質疑等等一切超越智慧的東西來創造成功的新一代智能。

我的結論是，我的這些觀點可能是錯的。我們還處在早期。我們有可能發現一種智能的通用標準，有可能發現它在任何方向上都是無限的。因為我們對智能是什麼的了解是如此之少（更不用說意識為何物），所以人工智慧奇點的出現概率還是比0大。我認為雖然所有的證據都顯示，這樣的場景非常不可能發生，但是它依然有可能發生（可能性大於零）。

所以，儘管我不同意奇點主義的觀點，但是我依然同意 OpenAI 的更大目標，擔心超人類人工智慧的聰明人們認為我們應該開發對人類友善的人工智慧並且向其灌輸可自主複製的符合我們人類的價值觀。儘管我認為一個超人類人工智慧是一個存在於遙遠未來的可能隱患（它值得我們去考慮），但是其可能性微乎其微，（基於我們目前擁有的證據）不應該來指導我們的科學、政策和發展。一顆砸到地球上小行星會引發大災難，這的確有可能（所以我們應該支持B612基金會。註：這是一個致力於星球防禦的非營利性組織。）但是我們不應該讓這種可能性去支配我們在，比如說，氣候變化、太空旅行甚至城市規划上作出的努力。

同樣，目前為止證據顯示人工智慧很可能無法發展為超人類人工智慧，但它的確會成為人類之外成百上千的會思靠的新物種；新物種與人類大有不同，它們只能從事具體工作，也不會立即成為可以秒速解決大問題的上帝。相反，將會有如星辰般豐富且有限的智能，它們在不同的超出我們想像的領域裡工作，和我們一道及時解決現有的問題，並發現新的問題。

我理解一個超人類人工智慧上帝帶來的巨大吸引力，就像新的超人一般，但也正像超人，它是一個神話角色。在宇宙中的某處或許存在超人，但是這種可能性微乎其微。然而神話是有用的，一旦它們被發明出來，它們將不會消逝。關於超人的想法不會消逝，超人類人工智慧奇點的想法，既然已經被提出，也將不會消逝。但是我們應該認識到，在當下這是一個類似宗教而非科學的概念。如果我們考察我們目前所有的關於智能、人工和自然的證據，我們只能總結說，我們關於一個超人類人工智慧的猜測僅僅是：神話。

二戰中，島群之中的很多孤島第一次與外界發生聯繫。不為所知的神一般的存在乘坐著轟轟作響的鐵鳥划過島民頭頂的天空，把食物和物品空投在島上，一去不復返。島上的宗教信徒跳起舞來，祈禱神再次歸來，並空降更多的物資。即使是五十年後的今天，依然有很多島民祈禱著鐵鳥再次歸來，空投物資。超人類人工智慧有可能被證明是另一種「物資崇拜」。一個世紀之後的人類也許會回首現在，那時的我們無時無刻不期盼著出現超人類人工智慧，帶來超乎想像的價值。數十年來人們一直等待著超人類人工智慧的出現，並相信它會帶著「物資」，很快到來。

然而非超人類人工智慧已經實際存在。我們試圖重新定義、限制它以在未來掌控它，但是從智能的宏觀意義上來講——其範圍涵蓋不同種類的機靈、智能、認知、理性、學習和意識——人工智慧已遍布整個地球，並會持續地傳播、深化、多樣化和強大化。以前從不存在像人工智慧這樣可以改變人類世界的發明。在本世紀末，人工智慧將無所不及並革新人類的一切；但是，超人類人工智慧的神話——人類獲得超級能力或者淪為超級奴隸（或者兩者兼而有之）——很可能一直存在，這種可能性對人類來說是如此迷魅以至於太難捨棄。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！