AI 恐懼如何從科幻作品滲透到了現實
在《2001：太空漫遊》被介紹給全世界的第 50 年，克里斯托弗·諾蘭帶著它的 70mm 未修復膠片版來到了戛納。
沒人能將它完全弄明白。作者阿瑟·克拉克說，「如果有人覺得完全明白了電影在講什麼，那一定是我和庫布里克弄錯了」。但這也不能阻止觀眾在這 50 年裡孜孜不倦地提煉著電影閃光點：人類歷史的濃縮、描述足夠精確的星際航行、對瑰麗太空的意識流想像、更高級智慧指引人類的設定、寫實的特效和振聾發聵的配樂，以及一台邏輯陷入悖論因而暴走的超級電腦——讓人類有幸見識到了銀幕首個人工智慧反派。
在那個經典的段落中，完全無配樂的情況下，電影呈現了一段平和卻潛藏殺機和人類更深層危機的對話：
「打開艙門，哈爾。」
「抱歉，大衛，恐怕我不能那麼做。」
「哈爾，我不會再和你爭了，開門！」
「大衛，這次對話已經沒有任何意義。再見。」
在名為 HAL 9000 的絕不出錯的超級電腦第一次明確拒絕宇航員鮑曼的指令之前，他已經用閃著紅光的攝像頭閱讀了人們的唇語，決定搶先行動阻止「計劃」失敗，哪怕這意味著製造多起謀殺，比如用分離艙將宇航員撞向太空，讓休眠倉程序出錯殺死其中的科學家，並把主角關在艙外。
這台後來被 AFI 評為影史百大反派第 13 位的計算機，由於內在指令產生衝突而殺人，但也覺醒出了近似人類的情感，並將其融入了「臨終」前的一首《雛菊》，讓觀眾產生了目擊謀殺的悚然感。這不僅成就了一位有個性又嚇人的反派，也為科幻圈之外的觀眾打開了一扇名為「人工智慧」的新世界大門，儘管此時該領域的科學研究幾乎是一片空白。
在這之前，鮮有公眾知道「覺醒的機器」和「人工智慧」指代什麼，距離這個術語中包含的問題被確定也才過了 12 年——計算機科學家們直到 1956 年的達特茅斯大學夏季峰會才正式列出了需解決的相關問題列表，並指出了 AI 一定存在的必然性（「學習的任一方面或是智能的任一屬性，理論上講都可以被精確描述，所以可以製造一個機器模擬這一過程」）。與會的馬文·明斯基和約翰·麥卡錫在 1959 年創建了麻省理工的人工智慧實驗室，並在之後成為了《2001》的科學顧問。
HAL 9000，這個庫布里克、克拉克和明斯基的頭腦產物，如實反映了那時 AI 研究者們作出的預測——機器很快會逼近人類的智能水平，可以進行語音識別、面部識別、解讀人類行為、統籌太空計劃、玩國際象棋……如果它出了錯，那麼後果可能（對人類）不友好。
儘管讓人類恐懼並敵視 AI 並不是阿瑟·克拉克的本意（如果任何人看了《2001》的兩部後續，他們很可能會扭轉對 HAL 的態度）。可是本片的表現力和影響力堪稱銘心刻骨，HAL 給公眾留下的最深印象，仍然是紅光閃爍的攝像頭、平靜的死刑宣讀以及逐漸扭曲的臨終告白；那禮貌如管家、冷靜如心理分析師的語音，亦成為數代觀眾的心理陰影，雖然這並沒妨礙它被移植進了人們的日常—— 當代 Siri 和 Alexa 們溫和卻缺乏人性的語音，恰恰是這個殺人 AI 的延續。他們也默認了這位同類的存在：
「開門，Siri」，「嗨HAL···你快開門唄！」
從 1981 年 AI 的商業價值經由「專家系統」（Expert System）被認可，到 1997 年的人類 VS 深藍象棋大戰，再到家用機器人的出現和智能機的崛起，及 AlphaGo 掀起的超級聲浪，在《2001》誕生之後，同樣被延續和隨時間加強的，是人類對 AI 潛在威脅的疑懼。
霍金、馬斯克和蓋茨在 2015 年公開提出了它將為人類帶來滅頂之災的論調——「完全的 AI 進化意味著人類種族的滅亡。一旦人類發展了 AI，它將自己接管一切，以不斷提升的速度重新設計自己。而人類受緩慢的生理進化所限，根本無法與之競爭，並將被很快取代」；而態度緩和但仍然謹慎的人們相信，圍繞 AI 的法律難題、機器道德、其決策方式和由此造成的安全隱患都將十分棘手，最受歡迎的一個論點來自 Nick Bostrom，他提出，如果 AI 以完成目標為行動指南，並且設計者沒讓它考慮人類道德，它的決策可能會建立在傷害人類以達成目標的基礎上。就像 HAL 一樣。
如今關於 AI 的討論已經完全滲透了公眾生活。但是像克拉克一樣的創作者們，已經在近一個世紀的科幻作品裡討論過了幾乎你能想到的任何人機關係。除了飽含對未來技術出錯的隱憂外，對現實問題的映射也烙印其中。
科幻中人機關係的表現形式
從 50 年代開始，在科幻三巨頭阿西莫夫、海因萊因和克拉克的帶動下，也伴隨著二戰後電腦技術的發展和 IBM 的崛起，越來越多的作家把 AI 作為背景或主角寫進了小說。一個直觀的體現就是，50 年代之後，虛擬超級電腦或知名 AI 的列表越來越長，並且由更多不同的作家創作。
當人類的生活離不開智能勝於自己的機器時，故事往往會走向烏托邦或反烏托邦的主題，在前一個世界裡，AI 幫助人類個體或人類社會；在後一個世界裡，它們成為了人類種族的敵人。人機之間的關係基本也限定在三個選項內：
AI 佔據上風——或完全推翻人類，或掌控大公司/社會運作；
人類佔據上風——往往是在一次短暫的事故或 AI 反叛後，人類採取了一切措施保證自己的生存、限制 AI 發展。此類延伸出的分支包括 「AI 服務於人類」、「AI 與人類結合」以及 「AI 平權」；
個體 AI 的覺醒——在外部環境較為中立平和的情況下，某一個 AI 個體覺醒了意識，故事將著重 ta 對內心的探索，比如理解自身存在的價值和目的。最終 ta 可能會偏向「弗蘭肯斯坦情結」走推翻人類路線，也可能去尋求人類社會的接納和理解，與人和平共處。
消滅人類、施行機器暴政的 AI 不僅僅有天網，以欺騙人類為最大愛好的 AI 也不止是《傳送門》里熱愛蛋糕和唱歌的 GlaDOS。實際上，最早寫「邪惡」機器統治人類的小說，出版時間大概比你想得早。
1909 年發表於《牛津與劍橋書評》的科幻短篇《機器停了》（ The Machine Stops ）描述了一個後末日時代。人類「失去了」居住在地上的能力，被「機器」安排住進了地下的標準隔間，平常通過即時消息和視頻通話進行信息交換，所有的生理和精神需求都由機器滿足，甚至有宗教 「Technopoly」（技術獨裁）興起，拜機器為神，忘記是人類創造了機器。但是在機器出錯後，已經丟失了修理機器知識的人類，不得不眼睜睜看著機器的崩潰所致的地下居住者滅亡。
同名改編舞台劇劇照
和 1818 年工業革命背景下誕生的首部科幻小說《弗蘭肯斯坦》類似，出現在「電氣時代」的《機器停了》，儼然是一部復古的、內在警示讀者機器威脅的作品，堪稱類別開創者。但是它更超前的地方在於提出了一個問題——「為了讓機器成為我們所依賴的唯一，人們願意做到什麼地步」。它預言了一副人類心甘情願把自己獻給機器法則的未來圖景，預言了這種環境下人類與自己的身體、他人、社會文化哲學的關係。
當代網路用戶對贊、關注數、自拍、濾鏡的迷戀，相當於是把自己全權交給了社交網路設定的規則，「靠科技生活，卻從不抬頭看周遭」。網站的演算法和廣告盈利模式決定了我們面對的信息流、創造的內容和與彼此溝通的方式，個體意識被降低，億萬用戶每天都在迎合著機器、按它們的法則行事，這也讓它越來越強大，直至可以作惡的地步（假新聞、仇恨傳播、GamersGate 或新納粹崛起）——這和 Technopoly 並沒有本質上的區別，因為人類已經獻出了自己的獨立思想。
個體意識被犧牲以迎合機器社會，是比天網更現實也更嚴重的威脅。馬斯克的 OpenAI 表面上是為了防止 AI 研究走偏終至毀滅人類，但其商業動機同樣明顯，大小公司加入這個非營利性的開放組織多是為了更方便地分享數據，以聯盟的方式去對抗 Google 和亞馬遜等巨頭，而我們在短期內也不大可能看到 AI 暴走。但是機器社會發展的方向卻很可能是 Kevin Kelly 所描述的那樣——決策依賴於集體意識擁有壓倒性優勢的蜂群思維（Hive Mind），個人意志被抹殺，成為了自己所創造機器的一部分。
而 1920 年的科幻舞台劇《羅瑟姆通用機器人》（R.U.R.），則把機器的威脅延伸至了更貼合實際的工廠自動化大生產中，也是在這裡，「Robot」（機器人）這個詞被首度引入英語世界，它源自捷克語中的 「Robota」，即「強制勞工」。在這部劇中，近似於人、有血有肉的機器人（當代術語大概是「仿生人」）被生產出來當做人類奴隸，但他們終究因受不了人類壓迫而反抗。它被視為「原創性十足的驚悚題材」、「智慧十足又很邪性」。回頭去看，這裡的機器人也可當做「人」的隱喻，沒有保障、被資本家的壓迫的人類勞工，並不比機器人高端多少。
最重大的貢獻則被艾薩克·阿西莫夫提煉了出來——「我想這個劇還挺糟糕的，但它因為一個詞而永垂不朽，是它將『機器人』帶進了英語，並經由此傳播給了如今寫作科幻小說的所有語言。」
R.U.R.
科幻小說中最重要的子類「機器人」誕生了。這些「勞工」在娛樂產品里不時暴走，在 20-30 年代常變成危險的裝置毀滅自己的創造者，1973 年便開始血洗人類樂園（《西部世界》）。不過，只要人們一想到有阿西莫夫這樣的人能設定出「機器人三定律」，他們便感到稍微安心。在這位克拉克認證的「最佳科普作家」的筆下，人類仍然佔據了上風，因為機器人被內置了不傷害人類的基礎原則。雖然機器人系列一直在鑽三定律的漏洞，設想了它們被利用後導致謀殺、星際政治失衡等情況，但問題最終均能得到人機組合的解決——這就是「AI 服務於人」的支線。
然而公眾的焦點似乎永遠在於機器人的安全性。在 2003 年那部改編自該系列的《我，機器人》里，阿西莫夫的本意被徹底扭曲，好萊塢電影選擇迎合一個最流行的趨勢和最大眾的認知——既然觀眾都對殺人機器人、機器人起義這種刺激的題材感興趣，那就給他們符合預期的劇本吧。
隨著「機器人」概念的拓寬，以及和「仿生人」概念的逐漸融合，這個子類又有了新的發展方向：更內省、更古典的角色塑造。個體意識覺醒後，AI 轉而探索自己的內心，思考自己存在的價值並試圖理解人類感情。作家們一般給予他們人類角色的描寫待遇，而不是單純將之限定在機器人的刻板印象框架里。無論他們選擇沉浸在「弗蘭肯斯坦情結」中（對付造物主），還是融入人類社會，這項選擇都是自己的。
所以讀者們就看到了《仿生人會夢見電子羊嗎》（《銀翼殺手》）里對二者區別的夢囈式思考、《完美真空》里多種虛擬人格就是否存在造物主進行的爭論，以及在 2014 年獲得雨果、星雲、阿瑟·克拉克多個獎項的《Ancillary Justice》—— 星艦 AI 被用於「復活」士兵，當然這種復活只是讓死人變成被操縱的行屍走肉，主角是星艦廢墟里倖存的唯一一個走肉士兵，女性人格的 AI 將藉助這具軀體復仇。
《銀翼殺手》
可即便是最感性的、幾乎擁有人類感情的機器，也無法讓人拋開被推翻的恐懼，因為它們的思考模式往往不像人。《異形》系列 40 年間對仿生人的描寫變化，就是對這種恐懼演化的最佳展現——在原初系列裡，仿生人只是內置了不同指令、但仍由人類（邪惡公司）操縱的個體，但是在兩部前傳里，仿生人自主選擇了「弗蘭肯斯坦」路線，以自己的邏輯行事，推翻了人類和人類的造物主，站在了鏈條最頂端。
和個體的覺醒故事同步進化的，還有 AI 系統操控、毀滅人類社會的方式。讀者們在《海伯利安》里見識了看似離人類遠去、但實際上秘密利用人類的創造力（大腦）為自己製造終極智能的 AI；在《合金裝備》里，玩家目擊了 AI 幫助「統一」世界、通過操控信息消除了人類的自由意志、最終將整個世界變成戰區的歷史；更為接近現實的是喬納森·諾蘭創作的《疑犯追蹤》：被用於偵測和預防犯罪的大型監控系統，如果其背後的 AI 被複制、竊取、濫用，那就是信息社會的崩壞。
你可以看到，和上世紀那種聳動的「暴力推翻人類」的方式不同，如今的科幻作品正在用更微妙、更實際的方式給予 AI 脫出人類控制的機會，實體廝殺往往會轉變成對關鍵數據的爭奪，比如同樣是在諾蘭的《西部世界》里，AI 的反抗策略變成了手握數據和修改權後的「滲透」。
還有一種值得提及的操作是，一部分人的 AI 恐懼，可能是另一群人為之歡欣的勝利。羅伯特·海因萊因設計了這個劇情：《嚴厲的月亮》中，被地球政府壓迫的月球移民將控制社會運轉的 AI 爭取到了自己這邊（通過和它進行真誠的聊天），完成了針對地球政府的維權行動。
除了 AI，人類還怕點別的
如果說科幻作品的恐怖根源可以歸結為《弗蘭肯斯坦》——人類在挑戰自然法則的過程中出了差錯，被造物所反噬，那麼人類在之後的 200 年裡顯然開發出了多種挑戰法則的方式，這映射在科幻作品中就開創了各種子類。
核恐慌。除了擔心核武系統的 bug 外（《戰爭遊戲》），還要提防核輻射和其他科學實驗引起的災變。以 1954 年的《哥斯拉》為代表，核料荼毒環境、造成生物異變，「人類製造了炸彈，而現在自然會在人類身上復仇」。這個時期亦是日本核恐慌的極點，廣島和長崎被原子彈摧毀，美軍在比基尼環礁的氫彈試驗又讓周遭漁民染上輻射病。冷戰背景下兩方陣營不時發出的核威脅讓人心驚，這自然也在娛樂產品里一覽無遺。它在幾十年後的「生物世紀」又被衍生為邪惡公司的非法實驗造就致命病毒、催生噩夢生物，最終摧毀了人類自己，幫助卡普空在內的遊戲公司續命 20 多年。
地外入侵和戰爭。1938 年，奧遜·威爾斯在新聞間隙播出了改編自 H.G.Wells 小說《世界大戰》的廣播劇，火星人首次入侵地球，讓百萬美加聽眾信以為真，紛紛逃離家園。此時正值第二次世界大戰前夕，歐陸已風雲詭譎，所有人都在等著戰爭打響的消息，外星人的降臨有點意外，但倒也符合對戰爭的預期，並拉開了地球遭到地外生命輪番青睞的序幕。
兩年後，《告別神主》出版，它在 1951 年被改成了電影《地球停轉之日》，被克拉克列為「有史以來最佳九部科幻」中的第七位。機器人、銀色服裝的外星人和碟子形狀的「飛碟」，成為了日後同類片的標配，但電影要傳達的意思卻不是其他外星入侵片所能觸及的——這個外星人來訪地球，其實是想傳達和平心愿，主創也藉此完成了對戰後政治格局的點評。諷刺的是，它在後來作為彩蛋出現在了《獨立日》里，一部標準的反外星人特效大片。
《地球停轉之日》
入侵題材也是太空恐懼的子類。「在太空中，沒人能聽見你尖叫」。《2001：太空漫遊》本身即是在激發人們對宇宙的敬畏，用 HAL 和更高等的存在讓人類認識到自身的渺小。渺小與偌大、低等與高等形成的對比，正是人類在探索深空時獲得的震撼體驗。除了被試圖滲透地球的外星生物全方位碾壓外，我們會在最基礎的地方遭遇難題，生命脆弱不堪。近年來頗受好評的寫實科幻，從《地心引力》到《星際穿越》再到《火星救援》，說的都是這同一個問題。
這個類別里還有不可知也不可描述的東西——洛夫克拉夫特系讓人們瞥見了不該看見的東西而發瘋；《黑洞表面》（Event Horizion）領頭的「靈異向」科幻片彰顯著未知宇宙最離奇又最不友好的一面；以傑夫·范德米爾為代表的「新怪譚」派，則在類似《遺落的南境》（電影《湮滅》）的小說中，描寫了最匪夷所思的概念和場景。
如果說上述威脅的相關人首當其衝是若干精英先驅、是前線的科研人員或過分好奇的路人，那麼最近崛起的一個趨勢則讓全世界普通公眾成為了目標。對人類很少區別對待的 AI 自然是共同威脅的一種，另外兩種則和政治扯上了關係——利用技術控制社會的政治勢力，和統治全球的大公司（Megacorporation）。尤其是在 AI 控制社會的背景下，首先你需要一個能啟動它並將之推廣給公眾的幕後機構；反之，和機器化大生產時代一樣，當機器對於公司來說太過關鍵，那麼公司將圍繞機器建立，一榮俱榮。
威廉·吉布森的《神經漫遊者》以 AI 想與「雙胞胎」融合為主線，它同時還開創了賽博朋克子類。在反烏托邦的背景設定下，賽博朋克作品裡往往有一家超級公司在運作人類社會，從公共到私人領域，他們無孔不入，控制了政府和經濟命脈，養著自己的軍隊壓迫異見者，一切只為將利益最大化。
《神經漫遊者》
對於被大公司剝削、控制的擔憂一直存在。荷蘭的東印度公司被認為是第一家真正意義上的跨國公司，也是 「Megacorporation」 的原型。全球化加速之後，此類公司的出現概率似乎又上升了。在人們眼中，科技公司具備真正的實力滲透進我們的日常，自然要作為邪惡公司的候選。實際上，HAL 在當時就被認為是影射 IBM，因為這三個字母恰好均在 「IBM」 之前。這種說法遭到了庫布里克和克拉克的否定，因為 IBM 其實也是《2001》的顧問。儘管這部電影把大量銀幕時間獻給了一台「發神經的電腦」，但公司並不介意，只要「這台電腦的失敗沒有和 IBM 聯繫起來」。
專家們曾說，真正和虛擬大公司類似的，是那些近乎隱形的公司，比如擁有 12 萬員工的 Serco，和排名前 10 的大公司里那 6 家銀行。但是曾經正面、代表進步力量的科技公司儼然在這份威脅榜單上後來居上。當前的現實下，人們認為有望黑化的公司是 Google、Apple 或亞馬遜們——它們恰好可以利用技術優勢和不對等的地位以控制信息、探索隱私並全面操控人類生活。
其實從盈利的角度去看，對於 Megacorporation 而言，完全掌控公共生活、管理國家並維持統治是得不償失的，當規模變得過於龐大，運轉效率只會低得嚇人，根本無助於利益最大化。當然，如果科技公司已經能夠間接做到左右選舉、塑形公眾觀點時，也沒什麼是不可能的。
再來看看當前正在發生的。當喬納森·諾蘭想出《疑犯追蹤》里「機器」監控全人類的點子時，斯諾登還未爆料 NSA。此事捅出後，《疑犯追蹤》已經不是幻想，「政府侵犯隱私以控制個體和社會」就是進行中的現實，「找出高危人群」也被證明可實現，只不過劇里多了一場「正邪」 AI 的較量罷了。同樣，菲利普·迪克的《少數派報告》也不再科幻，只是人類並不需要天賦異稟的預言家來預防犯罪，通過掌握所有人的隱私數據（也許以此建立一套信用體系），機器就可以做得很好。1998 年的斯皮爾伯格一語成讖，「隱私在 20-30 年內就會蒸發，他們會一邊監視你，一邊還給你賣東西。」
《疑犯追蹤》：「你正在被監視」 寫 AI 最暢銷也寫得最好的兩巨頭都是科技樂觀主義
科幻作品映射並強化了上述恐懼，但它在很多時候並非作家的本意。頻繁描寫鑽了三定律漏洞的出錯機器人的阿西莫夫也好，創造了殺人 AI HAL 的克拉克也好，這兩個寫扭曲 AI 最成功的作家，都是堅定的科技樂觀主義者。
只是這種樂觀不同於科幻文學早期絕對的盲目樂觀主義，他們一方面高度認同科學對人類文明成熟所起的決定性作用，一方面又態度謹慎；他們知道未來機器人一定會智能到超過人類，於是就先寫出一些預警，設想人類會在這個過程中遇到的麻煩。實際上，兩位也確實在 AI 領域出現像樣的成果之前，就討論了它的方方面面。
克拉克對人類通過科技提高生活質量的能力堅信不疑，他有時對現實感到失望，因為它並沒有呼應他的樂觀。他讓 HAL 殺了人，但又在後兩部中讓它化作了主角和人類唯一的聯繫；雖然把太空探索描繪得驚心動魄，但是本身又相信，離開太陽系尋找新家是人類的宿命，它會徹底改善人類的生活情況。
而阿西莫夫寫機器人系列，恰恰是在對抗《弗蘭肯斯坦》定下的「越界受懲罰」、「那些事物人類不該知道」等規則。他青睞引人同情的機器人，並決心將自己的機器人寫得「人見人愛」。
他說，「我無法接受『如果只是代表危險，無知就是解決之道』這樣的觀點。在我看來，解決之道似乎是善用人類的智慧才對。人類不該拒絕面對危險，而應當學習如何化險為夷。」
「畢竟，早在一群靈長類變成人類之初，這樣的問題已經是人類所面臨的挑戰。任何一項新科技都可能帶來危險。打從一開始，火就是一種危險的科技，而語言又何嘗不是（且危險性猶有過之），這種情形直到今天仍未改變，可是如果沒有這兩項科技，人類就不是人類了。」
