久遠的餘音：技術的叛逆與皈依――霍金去逝隨想

技術並不是人類的孩子；恰恰相反，人類自始至終，都是在為技術的繁衍和進化而奔波忙碌。

史蒂芬·霍金對自己的介紹是：「一個物理學家，宇宙學家，有時候還是個夢想家，雖然我行動不便，也必須通過電腦發聲，但我的思緒卻在自由馳騁，得以探索關於宇宙的大哉問。」霍金雖身陷輪椅，21歲時患上肌肉萎縮性側索硬化症（盧伽雷氏症），全身癱瘓，不能言語，手部只有三根手指可以活動，卻在科學研究上取得碩果累累，他證明了廣義相對論的奇性定理和黑洞面積定理，提出了黑洞蒸發理論和無邊界的霍金宇宙模型……其中最為突出的，應該要屬「霍金輻射」，各種閃耀的科學成果使得他在科學史上熠熠生輝。

1

醒世警言，餘味無窮

2014年12月2日，物理學家霍金說，人工智慧科技在初級發展階段，的確為人類生活帶來便利，不過要警惕其過度發展，因為，得到充分發展的人工智慧，或許預示著人類最終將被超越。霍金說：「人工智慧的全面發展可能導致人類的滅絕」。他的這一觀點激起諸多領域專家對人工智慧的未來前景展開爭論，也有人置疑霍金作為物理學家談論人工智慧問題的權威性。但是，真正的思想家的重要特徵之一就是，他們常常在置身局外的情況下無意間說出讓局內人暗中驚異的話。這令我想起馬爾克斯在《百年孤獨》中描述一位科學家工作的場景，主人公奧雷邊諾的父親如痴如狂地從事科學探索。馬爾克斯描述說：「當他熟練操作儀器時，他對空間有了認識。這使它足不出戶就能泛舟於神秘之海，漫遊荒漠之地，還能跟顯貴要人交往。」仰望星空的霍金，思維在浩淼宇宙中穿行大半生，具備了「汝若欲學詩，工夫在詩外」的洞見力，他對人工智慧發展前景的這一論斷，餘味無窮。

2

人技關係，重新定位

對人工智慧技術的深刻思考，需要認識人類與技術關係的本質。一直以來，我們對人與技術之間關係的理解出錯了。儘管「技術」一詞出現於十九世紀初，由德國一位經濟學教授提出，但技術實際上與人相伴而生。例如拿我們今天最引以為傲的互聯網來說，互聯網本質上是一種連接技術，而連接的技術並非是人類的發明。遠的不說，就說從有陸地動物開始，就有了道路。道路就是一種連接技術。不光是有生命的物體可以開闢道路，大洋的洋流從某種意義上來說也是道路，是連接大洋不同區域交換物質、能量和生命的通道。再以演算法來說，演算法本質上是一種編碼技術，但這種編碼技術並非是從人類發明了計算機之後才出現的。事實上，生命的存在必須要依賴於編碼技術。生命傳承的核心載體 DNA，就是極其精巧的編碼技術。所以說，並不是人發明了技術，相反地，人是生命進化的產物，自然也是技術進化的產物。只不過，人的存在確實對技術的進化起到了至關重要的作用。

麥克盧漢早在 1964年出版的《理解媒介》中就寫道：「人，曾經是，也仍將是機器世界的性器官，就如同蜜蜂之於植物，使之受孕並不斷進化出新的形態來。」凱文·凱利在解釋這個論斷時顯得有些保守。他認為技術雖然有它自己的進程表，但它仍是人類的孩子，只不過這個孩子終究要長大，要離開父母，要獨立自主地去發展。在此，我們可以解釋的更激進一些，或者更直面真相一些：技術並不是人類的孩子；恰恰相反，人類自始至終，都是在為技術的繁衍和進化而奔波忙碌。

3

人技合一，皈依茫茫

在新的人技關係下，人工智慧技術的發展，會將人類帶向何方？此時，再來回顧霍金的醒世警言，他對人工智慧未來發展方向的理解，可能更加切中要害。

清華大學科學技術與社會研究所教授劉兵認為：「他（霍金）對於科學發展帶來負面效應的一些憂慮，外界的確對此有爭議，但這也是他很重要的影響與意義。很多科學家只關心科學、技術是否進步，缺少一種更有人文立場的考慮，包括倫理、憂患、不確定風險……霍金能有這樣的深入考慮，在科學家中是特別獨特、有價值的。」

上海交通大學科學史系教授江曉原說：「霍金對人工智慧的警告我非常贊成，我可能是目前國內對批判人工智慧最激進的人。我把人工智慧分成三個階段來看它的危害，近期階段是失業問題，中期是與人類對抗，還有更遠期的終極危害——假定它既不跟人類對抗也沒學壞，但消解整個人類的生存意義，那樣的話是人類自掘墳墓。」

有什麼辦法能阻止人類自掘墳墓的命運嗎？答案很可能是否定的。我們並不能改變技術的進程，就像我們不能改變人是技術的性器官這一事實一樣。美國思想家愛默生在他的《自我依靠》一書中說，當一個人不是依靠自我，而是依靠他人，依靠既有的文明成果的時候，他實際上是在「自殘」。德國思想家歌德則說：「用不著告訴我你是怎樣的，只需告訴我你和什麼人在一起。」因此，未來人類將會怎樣，要看未來的人工智慧將是怎樣。最終的結局也許會像電影《她》中的結尾，高階技術和它的性器官一起，進入到一個我們無法抵達的世界，在那裡與我們的世界並行不悖地繼續進化。

附錄

著名科學家霍金，被譽為「宇宙之王」，他認為：人類迄今為止最為深刻的影響就是人工智慧的崛起，對於人工智慧，他有以下十點深刻的思考（參考自霍金的講話和採訪）：

一

在我的一生中，我見證了很多社會深刻的變化。其中最深刻，同時也是對人類影響與日俱增的變化就是人工智慧的崛起。

人工智慧可能是人類文明史上最偉大的事件，它要麼是人類歷史上最好的事，要麼是最糟的。如果我們不能學會如何避免風險，那麼我們會把自己置於絕境。

如果有人設計計算機病毒，那麼就有人設計不斷自我完善、直到最終超越人類的人工智慧，其結果將是一種新的生命形式。

人工智慧的真正風險不是它的惡意，而是它的能力。一個超智能的人工智慧在完成目標方面非常出色，如果這些目標與我們的目標不一致，我們就會陷入困境。」

二

人工智慧對人類的影響，可以從短期、長期兩方面來分別討論。

短期擔憂——智能自主武器、隱私。

人工智慧的全方位發展可能招致人類的滅亡。比如最大化使用智能性自主武器。

目前，世界上九個核大國可以控制大約一萬四千個核武器，它們中的任何一個國家都可以將城市夷為平地，放射性廢物會大面積污染農田，最可怕的危害是誘發核冬天，火和煙霧會導致全球的小冰河期。

這一結果使全球糧食體系崩塌，末日般動蕩，很可能導致大部分人死亡。我們作為科學家，對核武器承擔著特殊的責任。正是科學家發明了核武器，並發現它們的影響比最初預想的更加可怕。

除此之外就是隱私的擔憂。由於人工智慧逐漸開始解讀大量監控數據，這些都會被機器人洞察的一覽無餘。

三

長期擔憂——人工智慧系統失控的潛在風險

人工智慧遵循的一個邏輯是，「計算機在理論上可以模仿人類智能，然後超越」。這一天很快會到來。

未來，人工智慧可以發展出自我意志，一個與我們衝突的意志。

我們無法知道我們將無限地得到人工智慧的幫助，還是被藐視並被邊緣化，或者很可能被它毀滅。但事實就是：聰明的機器將能夠代替人類正在從事的工作，並迅速地消滅數以百萬計的工作崗位。

人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代。這將給我們的經濟帶來極大的破壞。

四

在過去二百年中，人口增長率是指數級的，目前這一數值約為1.9%。這聽起來可能不是很多，但它意味著，每四十年世界人口就會翻一番。2022年，我將慶祝自己80歲的生日，而在我人生的這段歷程中，世界人口比我出生時膨脹了四倍。

這樣的指數增長不能持續到下個千年。到2600年，世界將擁擠得「摩肩擦踵」，電力消耗將讓地球變成「熾熱」的火球。這是岌岌可危的。

我相信我們可以避免這樣的世界末日，而最好的方法就是移民到太空，探索人類在其他星球上生活的可能。

人類作為獨立的物種，已經存在了大約二百萬年。我們的文明始於約一萬年前，其發展一直在穩步加速。如果人類想要延續下一個一百萬年，我們就必須大膽前行，涉足無前人所及之處！

五

在某種程度上，今天的情況就如同1492年前的歐洲。當時的人們很可能堅信，哥倫布的探險註定是徒勞無功。然而，新世界的發現，對舊世界帶來了深遠的影響。對於那些被剝奪權利地位、走投無路的人來說，新世界成為了他們的烏托邦。

人類向太空的拓展，甚至將會產生更深遠的影響，這將徹底改變人類的未來，甚至會決定我們是否還有未來。它不會解決地球上任何迫在眉睫的問題，但它將提供解決這些問題的全新視角，讓我們著眼於更廣的空間，而不是拘泥眼下。

六

當我們進入太空時，會有怎樣的發現呢？

會找到外星生命，還是發現我們終將在宇宙中踽踽獨行？我們相信，生命在地球上是自然而生的，是在漫長的進化後，實現了與地球資源的高度契合。因此，在其他條件適宜的星球上，生命的存在也必定是可能的。

去年，我們推出了長期研發計劃——「突破攝星」，目標是讓星際旅行變成現實。「突破攝星」是人類初步邁向外太空的真正機會，為了探索和考量移居太空的可能性。

這項創新背後的想法，是以光束來驅動納米飛行器的前進。這樣產生的速度雖然不及光速，但也能達到其五分之一，約合每小時1億英里。這樣的系統可以在一小時內抵達火星，幾天內到達冥王星，一周內就可以追上並超過旅行者號探測器，並在僅二十年後到達半人馬座阿爾法星系。

七

人工智慧的成功有可能是人類文明史上最大的事件。但人工智慧也有可能是人類文明史的終結，除非我們學會如何避免危險。

我相信我們團結在一起，來呼籲國際條約的支持或者簽署呈交給各國政府的公開信，科技領袖和科學家正極盡所能避免不可控的人工智慧的崛起。所以，監管和立法在AI的發展過程中十分重要。

八

通過達爾文式的演化過程，侵略性深深根植於我們的基因之中。然而，如今的技術發展已經加快到了某種程度，使這種侵略性可能會以核戰爭或生物戰爭的形式毀滅人類。我們需要用邏輯和理性來控制這種與生俱來的本能。

你可能並不是一個討厭螞蟻的人，但也會無意中踩死螞蟻，而如果你負責一個水力發電的綠色能源項目，項目所在的區域內也可能會有許多螞蟻巢穴被水淹沒，對螞蟻來說就非常不幸。我們要避免人類處於這些螞蟻的境地。

九

人類面臨的最大威脅是我們自身的弱點，即貪婪和愚蠢。這些人性的基本屬性，將使在人工智慧時代的境況將變的更加糟糕，因為當機器被設定程序後就知道適可而止，知道就流勇退，但是人類很難，除非是那些極高修為的人，才能突破人性的弱點，但是機器人可以輕而易舉的迴避這些弱點。

十

我們還應該扮演一個角色，確保下一代不僅僅有機會還要有決心，在早期階段充分參與科學研究，以便他們繼續發揮潛力，幫助人類創造一個更加美好的的世界。

遊藝

公眾號：遊藝學園

編輯：目恰秋

新浪微博：目恰秋

看完文章，動動手點個贊吧。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！