為什麼人工智慧會導致核戰爭風險增加？未來三種圖景

為什麼人工智慧會導致核戰爭風險增加

來源：Foreign Policy雜誌

2018年4月24日

人造智能能否顛覆1945年以來使得世界免於核戰爭的核威懾概念？人工智慧的驚人進步，加上無人駕駛飛機、衛星和其他感測器的增加，增加了各國可能發現他國核武器的可能性，也增加了各國可以威脅消滅其他國家的核武器的可能性。因此這加劇了局勢緊張的可能性。

冷戰初期以來，人們一直擔心電腦會被錯誤地或惡意地引導人類走向瀕臨核滅絕的邊緣。

危險可能很快就會成為現實，比小說更危險。人工智慧驚人的進步，創造了可以學習和思考的機器，引發了世界主要核大國之間的新一輪軍備競賽。這不是好萊塢大片中的殺手機器人。人工智慧使得計算機挑戰核威懾的基本規則，並導致人類做出毀滅性的決定。

「這不僅僅是一個電影場景，」 RAND的一位工程師AndrewLohn表示，他對人工智慧的研究包括：使用它來尋找無人機、識別鯨魚電話，並預測NBA比賽的結果。「如果我們不小心，相對簡單的事情就會引發緊張局勢，並將我們帶到危險的地步。」

「導彈襲擊」

要理解智能電腦如何能夠增加核戰爭的風險，你必須了解一些關於冷戰為什麼一直沒有升級為熱核戰爭的原因。有許多理論可以解釋這個問題，但「相互確保摧毀」一直是其基石。用最簡單的話來說，這意味著：如果你打我，我也會打你。在核武器發揮作用的情況下，這種反擊可能會摧毀整個城市，雙方都不願承擔風險。

自動化的系統不需要通過殺人來破壞兩國之間的穩定。這更有可能導致災難性的戰爭。

這個理論導致了一些違反常識的結論。原來，雙方都能夠在遭受第一次打擊中倖存下來，並且能夠進行反擊，那麼情況就是穩定的。這樣，任何一方都不會冒先動手的風險。然而，在人工智慧的情況下，如果一方失去了反擊的能力，或者認為自己可能會失去這種能力，那麼情況會變得更加危險和不確定。它可能會通過製造新武器來恢復其優勢，或者它可能會決定在它受到攻擊之前儘早先發制人。

這就是人工智慧的真正危險所在。電腦可以掃描數千張照片，尋找人眼無法看到的圖案。可以想像，一個更加先進的無人機系統，可以對衛星數據進行細緻的整理，甚至是對社交媒體進行細緻的整理，以便知道對手的武器和防禦工事的全貌，並不需要太多的想像力。

人工智慧如何影響核戰爭的風險？

一個可以在任何地方看到一切隱私的系統，都可能使對手相信，自己很容易受到第一次核打擊的威脅。人工智慧可能讓對手失去反擊的能力。因此，對手會不得不尋找新的方法，通過任何必要的手段，發明更佳先進的軍事設施，以防止自己被消滅。這條道路更接近核戰爭。

「自動化的系統不需要通過殺人就可以破壞兩國之間的戰略穩定性，並且更有可能發生災難性戰爭，」 蘭德研究所副研究員，核安全專家EdwardEdward Geist說，他是新文章的作者之一。「新的人工智慧能力可能會讓人們認為，如果他們猶豫不決，那麼就會失去信心，這可能會讓他們更加敏銳地觸動手指。在這一點上，人工智慧仍然會引發戰爭。

虛驚

電腦現在可以自己教自己，不斷自我學習。他們的神經網路模仿大腦的結構。最近，一台計算機在象棋遊戲中擊敗了世界上最厲害的玩家之一。這是第一次，但是計算機表現得非常出色。以至於這位象棋大師站起來，離開了房間，15分鐘後才能進行下一步行動。

俄羅斯最近宣布了一項水下末日無人機的計劃，該無人機的彈頭足以使一座大城市蒸發。

這種超級智能的軍事潛力，並未被世界主要核大國所忽視。美國試驗了可以追蹤敵方潛艇數千英里的自動艇。中國已經展示了「群體智能」演算法，大大提高了無人機性能。俄羅斯最近宣布了一項可以引導自己穿越海洋的末日無人機的計劃，以提供足以抹平大城市的核彈頭。

無論誰贏得人工智慧戰爭，俄羅斯總統弗拉基米爾普京都說：「都將成為世界的統治者。」 特斯拉創始人伊隆馬斯克有不同的看法：他警告說，各國對人工智慧優勢的追逐，是第三次世界大戰爆發的最可能原因。

研究人員總結說，下一代人工智慧將具有破壞核安全基礎的「重大潛力」。現在是進行國際對話的時候了。

在這種技術進步的時代，保持核和平需要每個核電的合作。這將需要新的全球制度和協議; 競爭國之間新的諒解; 以及新的技術、外交和軍事保障措施。

未來的人工智慧系統有可能被證明是非常可靠的，或者非常冷酷理性的，以至於它將阻止核末日的到來。畢竟，犯錯的是人。一台沒有錯誤、沒有壓力、沒有個人偏見的機器，可以給我們帶來原子時代從未有過的穩定水平。

研究人員總結說，這一時刻還很遙遠，但從現在開始的那幾年，將是特別危險的。擁有核武器的國家變得更多，各國對AI的依賴增加，特別是在技術成熟之前，可能導致災難性的錯誤估計。而在那時，一名上夜班的工作人員，可能來不及阻止戰爭機器。

斯坦尼斯拉夫彼得羅夫在核災難中的故事使得新一代人注意到引發深刻且潛在不穩定的技術變革的責任。2017年去世的彼得羅夫曾說：「我們比電腦更聰明，」他說。「我們創造了它們。」

未來可能會變成什麼樣子？ 三種圖景

蘭德研究人員召集了一些人工智慧和核戰略的頂級專家參加了一系列研討會。他們要求專家們想像2040年的核武器系統的狀況，並探討人工智慧將會導致更穩定，還是會破壞穩定？

圖景一 AI技術真有那麼厲害嗎？

許多人工智慧專家懷疑，這項技術是否真的在核戰爭的決策中可以發揮重要作用。它必須克服其被黑客攻擊的脆弱性，以非同尋常的方式制糾正錯誤。否則AI就無法有效發揮作用。

圖景二 AI導致核威脅將上升

但是，核武器分析家回應說，人工智慧系統不需要水平太高，就可以導致核緊張局勢升高。對手只需要考慮它並做出相應的回應。結果將是核武器競爭對手之間競爭和不信任的新時代。

圖景三 AI可以阻止和戰爭

一些專家表示，希望人工智慧有朝一日可以變得如此可靠，以避免核戰爭的威脅。例如，它可用於追蹤核武器的發展，並確保各國遵守不擴散協議。或者它可以拯救人類免受核對峙時犯下的錯誤，避免不好的決定。正如一位專家所說，未來的人工智慧可能會得出結論，就像1983年的電影「戰爭遊戲」中的電腦那樣，核戰爭中唯一的勝利舉動就是不發揮作用。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！