終極智能是「思想上的蟲洞」

36氪專門為讀書設立了【36氪領讀】欄目，篩選一些值得讀的書，並提供一些書摘。希望你手邊有一本稱心的書，讓讀書這場運動繼續下去。

和機器相比，人類的獨特之處是什麼？我們不惜一切代價保護的「人性」，其中有多少是獨屬於人類的？我們是否可以將人工智慧視為我們的創造，一個誕生於我們自身想像力的孩子？為了解答以上這些問題，這本書將帶你進入一個「人機共生」的未來。本文摘編自《終極智能》作者阿米爾·海珊。

缺失的部分

我記得小時候在拉合爾時，我曾坐在父親的腳邊玩著我的美國特種部隊士兵玩具，而我的父親則坐在他最喜歡的椅子上。突然，他大聲說了些什麼。直到現在，我依然不知道他當時是在跟我說話還是在自言自語。

我父親說：「你知道嗎，西方國家非常善於分析，東方國家的思想家則主要關注融合。」

我讓他解釋了這句話的意思，而且我現在仍然清楚地記得他當時的解釋。他告訴我，西方的科學家和思想家使用科學的方法，即觀察現象，然後根據測量結果和數據仔細分析和解釋所觀察到的結果。在這方面，這些人是推理大師。東方的思想家則會融合觀察結果來進行解釋，常常不會完全理解或驗證其背後的根本原因。他告訴我，在過去的幾百年中， 隨著人類對科學和科學方法的了解，演繹推理過程，也就是分析，被證明有用得多。它能讓我們獲得可以應用、可以作為理論基礎的深層次理解，並使我們獲得更先進的技術。

東方的融合不具有這一價值。可能是因為其基礎模塊沒有經過科學驗證或被融合者所正確理解？因此，這種來自東方的融合思維產生的更多的是故事、傳說和神話，而不是科學方法的基礎。牛頓看到蘋果，想到的是重力，而不是什麼樹神用蘋果砸他的頭來傳遞信息。

我的父親告訴我，他預見到在不久的未來，西方的分析歸納法與東方由故事和寓言組成的融合法將結合。在這個即將到來的時代，所有知識基礎模塊將一起造福全人類。

對我來說，要讓父親的願景變成鮮活的現實，最好的方法是採用他認為將會佔據上風的思維方式。在剛進入青少年時期的某一天，我就開始朝這一方向努力。我儘力構想一個未來世界，在那裡所有的科學都融為一體，所有的歸納和所有的知識基礎模塊都融合成了一座雄偉的知識金字塔。在金字塔頂端，我意識到，要想把這一切聯繫起來，還缺少一塊重要的部分。這個部分就是終極問題：這一切是為了什麼？ 我們已經將棋類歸納為包含演算法的數學問題，人工智慧已經能夠在全球最古老和最複雜的遊戲圍棋中擊敗人類，但我們仍不知道我們最基本的生存目標是什麼。這些動機來自何處？這個龐大的目標實現系統來自哪裡？像人類這樣的智能系統如何參與這類智力活動？

要回答這些問題，我們首先並且必須轉向物理學領域。我們知道是什麼讓物理系統能夠運動，物理學中的力描述了物質之間的吸引和排斥關係。當物質達到一定的複雜性並且以特定的方式排列時，就會出現生物系統。最簡單的生物系統是受本能驅使的機器，它們用能量交換優化物理目標的運動，比如樹伸出樹枝以接觸最多的陽光。隨著生物形式變得越來越複雜，其目標也變得越來越複雜。對於人類，社會學家和心理學家已經概括出多個需求和願望模型，包括馬斯洛著名的需求層次模型。值得注意的是，當這些需求和願望以複雜的方式發生交互時，就會出現更複雜的突發動機，比如利他主義和道德體系。

人類生物系統中複雜的、由目標驅動的行為是否可能只是為了滿足人類更基本的生理需求呢？在這些需求中，有些是與生俱來的並且是為了保護生物系統而產生的內在需求， 比如睡眠和食物。另一些需求似乎範圍更廣，比如好奇心或避免枯燥。因此，生物形式中的基本動機與人類生物系統在環境中的巨大複雜性之間的交互產生了無數的突發動機。突發動機這一洞見是否可能成為終極目標生成引擎的基礎，而這種引擎的抱負又是無限大的？根據這一猜測，預先設置的目的會錯過這一點並限制智能系統的最終潛力和抱負。

作為一種動態系統，人工智慧仍然處於初級階段，以致無法產生目標，而我們人類常常使用科學、宗教和哲學框架思考宏大的目標。廣義人工智慧機器人將擁有投票選舉權嗎？它們會被允許結婚嗎？當然，這些問題揭示了不斷變化的人類社會的風俗習慣，但不幸的是，這些問題讓我們無法就感知機器的智能進行更深入的探討。人們可能會問，在廣義人工智慧「大爆炸」後會發生什麼？當廣義人工智慧出現時，它是什麼樣子？這讓我們想起了艾薩克·阿西莫夫（Isaac Asimov）最著名的科幻故事《最後的問題》（The LastQuestion）。在阿西莫夫的故事中，當宇宙最後不復存在時， 廣義人工智慧表示「要有光」，於是便有了一個新的開始。

正如阿西莫夫告訴我們的那樣，我們在嘗試理解感知機器時，會不可避免地使用我們目前文化想像中的圖案、模型和比喻。無論我們信奉的是無產階 級、農民的權利、社會公正、全人類經濟自由還是國王的神聖權力，我們所有人都深深地沉浸在我們的歷史背景中。這些背景是人類文化的基礎， 與智能機器的目標完全無關。今天，我們大部分人都追求幸福，我們相信人生而平等、個人自由至高無上，但在生物學中，這些理念都不適用。它們只是神話。在生物學中，它們與「中世紀時，下等貴族應為基督放棄自己的生命」這一理念一樣荒謬。我們會覺得，問一台感知機器是否有資格成為一名騎士很荒謬，而問人工智慧是否有權投票選舉呢？這同樣是將我們自己的文化背景強加在機器身上。我們這些想法根本不是物理法則的結果。

由於沒有廣義人工智慧的例子，我們就用獅群來代替舉例吧。當一頭新的雄獅成為獅群的頭領時，它一般會殺死所有上一任頭領的孩子。所有雌獅，包括幼獅的母親也接受這一事實。如果用人類的法則來看獅群現象，它無疑是極其荒謬的，但這就是生物學行為，所有從未彼此遇到過或分享過土地的獅群都是如此。沒有信仰體系、沒有「獅子聖人」或「獅子教皇」到處制定集體行為規範。獅子不會遵守此類規定，它們只是一種動物。

我們在談論廣義人工智慧的感知時，指的是比獅群聰明很多的實體，但是，如果我們關於正常文化和行為的認識， 我們關於有意義和不相關事件的理解，都被用作認識廣義人工智慧的標準，那麼我們也同樣會感到荒謬。可能除了專註於將這些理念強加給感知機器之外，我們更應該好好看待自己。人類的獨特之處是什麼？我們在即將到來的超級人工智慧時代需要保留什麼？

在本體論和玄學這兩門研究現實基本性質的學科中，哲學家一直在思考像「圓」這樣的屬性是否能夠獨立於任何物體而存在。比如咖啡杯的圓是否能夠獨立於這個杯子而存在？同樣，讓我們來思考人性。從樂觀的角度說，我們可能會認為人性包括寬容、愛和忠誠，但真的只有人類世界有這些嗎？愛、寬容和忠誠屬於人際關係範疇，並且體現在一些行為中：一個人必須面對另一個人才能產生寬容、愛或忠誠。如果我們這樣認為，那麼就表示可以將整個人性與這個框架分離。我們都看到過小狗依偎著母親或者與兄弟姐妹愉快地玩耍。我們只需要朝起居室的窗外望去，就能看到鳥媽媽銜著蟲子喂它的寶寶，等到寶寶吃完後自己才吃。簡而言之， 即便沒有人類，這些概念依然存在。當我們要不惜一切代價地保護人性時，比如因人類的存亡問題愁眉苦臉時，我們真正保護的是這些屬性，但這些屬性有多少是只屬於人類的？

當通過「湧現」這一概念進行檢驗時，這些所謂的「人類的」屬性最後都會在任何生物或任何複雜的感知體中出現。我們將這麼多屬性劃分成情感，但複雜的情感無非是複雜社會系統中的「湧現」行為。

顯然，這種哲學追求讓我們不知道該如何定義人類。人類有何獨特之處？這些屬性真的值得我們不惜一切代價去保護嗎？我不確定這些問題的答案是什麼。我所知道的是我們對人性的理解始終會根據我們的歷史和文化而發生變化。在人性方面，我們可以選擇越來越過時的理念，也可以接受未來的新理念。那些過時的人性理念只會給我們目前的職業、工作和目標造成麻煩。

工作與生活目標的分離

人類與猿類有什麼區別？歷史學家尤瓦爾·赫拉利（Yuval Harari）在《人類簡史 》（Sapiens: A Brief History ofHumankind）一書中認為，人類與其他生物的不同點之一是我們會集體說謊。其他猿類做不到這一點。我們通過相信一些集體性的故事建立群體合作方式，比如宗教、部落和貿易等，而且合作規模超過了其他任何動物或生物。這種通過虛構故事實現群體合作的力量為我們提供了維護利益與維持生活的方式，讓我們凌駕於更具有力量的個體生物之上。

人性的本質是什麼？正如我們在第一章中所探討的那樣， 我們目前關於人工智慧未來的辯論往往局限於失業或擔心自身的生存。如今，我們的存在感與我們的經濟生產能力密切相關，以致我們仍然將自己的職業作為姓氏，比如戈德史密斯（Goldsmith，意為金匠）、法默（Farmer，意為農民）、米勒（Miller，意為磨坊主）等，但這些身份本質上不屬於人類，它們會隨時間而改變。當約 20 萬年前智人出現時，我們就開始生活在相對較小而獨立的群體中。隨著時間的推移， 我們的群體開始擴大，並且通過宗教和部落連接在一起，直到我們創造出一種有組織的宏觀體制：人類社會。最初，我們沒有其他任何機械化工具進行勞動，只能使用蠻力。當時人類的勞動在現在看來是非人的。任何一個推石塊或塗砂漿的人都沒有價值，有價值的是將人變成機器齒輪的有序流程。通過這種獨特的、大規模的肌肉力量組合以及各種虛構的信仰體系，人類建造了金字塔、廟宇、城市以及整個人類帝國。

在當前的資本主義時代，這種系統化的結構依然沒有改變。在資本主義體制中，大部分人都需要完成孤立的、特定的、重複的任務。這些任務組成了整個宏觀流程，大部分人只是其中的一個齒輪而已，正是這種最基本的勞動讓我們體會到了自身的全部價值。今天的謊言，即全球資本主義主流文化信仰體系，讓我們對這種工作感到驕傲。無論這種工作是要求你早上 5 點起床去田地，還是要求你上午 9 點到辦公室打開計算機里的數據表格，我們對這種謊言的信任讓我們更加努力。現代社會已經開始反抗陳舊的資本主義神話了。這個體系正在一個迭代流程中不斷發展，使位於金字塔尖的人從「前 1%」減少到「前 0.1%」，然後再減少到「前0.01%」。根據 2016 年牛津饑荒救濟委員會的報告，全球 62 名最富有的億萬富翁所擁有的財富相當於 36 億人所擁有的財富或全球最貧窮的 50% 的人口所擁有的財富總和。2017 年，這一數字減少到了 8 名。2 這 8 個人所擁有的財富比全球一半的最貧窮人口的財富還要多。

這份報告還指出，全球最貧窮的10% 的人口的年收入在過去 25 年中每年的增長率不超過 1%。我們可以看到，很多不同的文化都在根據全球體系中的這些分裂狀態來調整自己的故事。芬蘭目前正在試驗全民基本收入體制 3，瑞士也在考慮這一體制。正如文化的一切內涵，如政治理念、藝術活動、食物選擇等，都在變化一樣，「我們的價值與我們的生產力密不可分」這一理念也在不斷變化。曾經，這個故事講的是強盜大亨，然後又變成了對羅斯福新政的信任，緊接著是安·蘭德（Ayn Rand）的故事以及達爾文主義在經濟環境中的變更。然而，隨著地球上的人們使這些理念不再能夠延續，它們同樣會發生變化，所有這些理念都根據我們所在的時代而改變。我們最常對自己說的謊言，即「我們的價值來自我們創造經濟價值的能力」這一理念也不例外。

無論是農民、營銷總監、卡車駕駛員還是商品交易員， 在不久之後或者在遙遠的未來，人類社會絕大多數創造有經濟價值的產品的活動，即我們的「工作」，都將由人工智慧完成。對於我們的終極追求——生活目標，我建議大家利用我們的合作技能去創造新的故事。想像一個生存意義與傳統工作分離的世界吧。當然，在現實世界中，這一目標需要無數政策制定者、政治家、教育家和領導者一起努力才能實現。作為一項思想實驗，我們可以假設我們的社會體系，即社會理念已接受這一分離。這樣，我們就可以忽略因人工智慧的力量不斷增強而產生的短期警覺與恐懼感以及隨之而來的恐慌：「我怎麼養活我的家人」和「我們要住在哪裡」。我並非要貶低這些在現實生活中因人工智慧的出現而產生的憂慮， 但我承認這是我們最後才需要討論的話題。

由於我們的物種、價值觀、真理甚至品質都會發生改變，

「人類」的狀態一直是不固定的。600 萬年前，我們的祖先第一次在地球上行走時，我們與現在完全不同，而從現在起只需要一萬年，我們現在的樣子就會發生徹底的改變。人類正處在進化的軌道上，我們所信奉的價值觀、真理甚至是基本的品質都在不斷變化。

正如我們從一種截然不同的生物進化而來一樣，我們也將進化成另一種截然不同的、無法辨認的生物。我們必須接受這一事實，這樣我們才能知道自己的終極目標。

《終極智能》阿米爾·海珊

作者簡介

阿米爾·海珊（Amir Husain），一位屢獲殊榮的發明家、演講者和企業家，IBM的「沃森」認知計算平台顧問。作為發明家，他擁有22項美國發明專利以及40多項申請中的專利。作為演講者，他曾多次參加西南偏南大會（SXSW）以及其他涉及國防、網路安全、計算機科學、能源和環境等話題的會議。作為企業家，他創辦了SparkCognition公司並擔任CEO，該公司致力於通過人工智慧平台幫助企業和政府更好地應對不斷進化的威脅。《紐約時報》《福布斯》《快公司》《連線》等主流媒體曾多次專題報道海珊及其團隊的故事。

內容簡介

終極智能是「思想上的蟲洞」。通過與它合作，我們可以探索突破進化限制的思想空間，我們可以獲得宇宙中深深隱藏著的知識，我們甚至可以變成新生命的創造者！

人工智慧正在我們的社會中扮演著越來越重要的角色，圍繞著人工智慧的討論也在變得越來越兩極分化，很多人認為，機器要麼能解決所有人的問題，要麼就會把我們拖進黑暗的、反烏托邦的深淵。

在這本書中，作者討論了狹義人工智慧如何獲得感知能力，進而發展為廣義人工智慧，預見了感知機器與人工智慧時代的到來。和比爾·蓋茨、埃隆·馬斯克等知名人物的觀點不同，作者認為人工智慧對人類來說不是一種威脅，而是我們追求知識過程中的又一個階梯。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！