AI比你想像中恐怖，力量不輸核武器，或將引爆第三次世界大戰？

1899年，當時世界上最強大的國家因為擔心新興技術的破壞力，在海牙籤署了一項禁止使用軍用飛機的條約。

五年後，這個條約暫時到期，後來第一次世界大戰爆發，戰鬥機成為屠殺中最強大的武器。

現在，人們發現AI將會擁有核武器一樣的力量了。

（噓，千萬別告訴三胖）

AI除了像Elon Musk所說（「矽谷鋼鐵俠」拋出AI末日論，暗示AI有可能引發戰爭）的對人性有巨大的威脅，還具有超越核武器的，毀滅一個國家甚至毀滅世界的力量。

「一些技術非常強大，並且無法抵抗。」

來自華盛頓的一個無黨派智囊團，新美國安全中心（Center for New American Security) 的研究員Greg Allen這樣說，「而世界各地的軍隊在人工智慧上也得出了同樣的結論。」

Allen是長達132頁的關於人工智慧對國家安全的影響的報告的共同作者。這份報告的結論之一是，機器人對於戰爭和國際關係的影響可以和核武器相提並論。

這份報告是在國際情報局的研究機構IARPA的要求下，由哈佛的Belfer科學和國際事務中心編寫的。它闡明了為什麼這些正在研發中的像鳥類一樣敏捷的無人機技術，機器人黑客，以及能夠製作看起來跟照片一樣「真實」的假視頻軟體的技術，如何使得美國軍方以及其對手都更加強大了。

這些新的技術將會給美國和其他大國帶來一系列艱巨的道德，政治和外交選擇。使用人工智慧技術建立新的軍用設備是一回事，決定如何使用正確的這種新的武力是另一回事。儘管科技已經ready，政治和政策法規等等還沒有ready.

這份報告建議美國開始考慮建立國際條約來限制AI在國際爭端和戰爭中的應用。

全新的世界秩序

美軍長期以來一直在自主，測試和部署各種各樣的智能設備。2001年，國會就授權要求1/3地面作戰車輛都需要無人化，雖然這個目標後來沒能實現。哈佛的這份報告顯示，近期在人工智慧方面的迅速發展，使得像谷歌和亞馬遜這樣的公司實現飛躍，而這些科技也將為軍事領域創新帶來前所未有的質變。

Allen說：即使當下的AI領域的基礎研究和開發的進程都都停止，我們仍然有5～10年的應用研究空間。

哈佛大學的報告說，近期美國不論是公共的還是私人的對AI領域的投資都非常強勢，這為美國在未來繼續其全球領先的軍事力量打下了堅實的根基。

例如，能夠支持或者和部隊一起工作的更加智能的地面和空中機器人，將在曾經對美國對伊拉克和阿富汗戰爭中至關重要的無人機無人機和無人地面車輛的基礎上製造。

這些層出不窮的新的計劃意味著，軍事作戰領域雖然無法完全無人化，任何特定的任務都只需要很少的人類士兵來完成。

報告還說，美國應該能夠通過自動化探測和攻擊敵方網路或者製作假信息等，在網路戰中大大增強自己的攻擊力和防禦力。去年夏天，為了測試網路戰中的自動化，Drapa舉辦了一場比賽，其中有7個機器人相互攻擊，同時他們也會自動修補自己的缺陷。

GIF/1K

隨著時間的推移，AI和相關技術的發展可能動搖當下的國際秩序，對於小國來說也是一次「機遇」，畢竟，用AI技術實現對美國這樣超級大國的威脅容易得多了。

「核武器」可能比以往任何時候都更容易建設，但仍然需要相對短缺的相關的資源，技術，專業知識。代碼和數據也許會變得更加便宜，或者最終可以免費地，快速地傳播。機器學習已經廣泛地被應用，圖像以及面部識別也已經在學術會議中反覆出現。

哈佛的這份報告警告說，無人機和自動客車可能成為任何非對稱戰爭中的強大手段，帶來意想不到的威脅。ISIS已經認識到了這一點，開始使用1/4開支來消除對手的手榴彈。同時，我們也要警惕，那些為了自動化網路戰爭而開發的技術也將會成為流入黑市，成為黑客的工具，帶來隱患。

AI外交

來自微軟，谷歌等公司的3000多名研究人員，科學家，和高管曾向奧巴馬政府情願，要求禁止自主武器。他們被自己發現的這個「噩夢」嚇壞了。

Allen所在的研究所的首席執行官Oren Etzioni表示：「我認為大多數人都會對這樣一個想法感到害怕，試想一下一個完全自主的系統能夠決定何時以及如何殺死某人。」 （真的很嚇人啊……）

2012年，美國國防部制定了一項臨時政策，要求要有人來參與使用致命武器的決定。這項政策在今年五月成為永久性的政策。

哈佛大學的報告建議，國家安全委員會，國防部和國務院應該開始研究推動國際上對AI限制的協定。以防止AI引發新的軍備競賽，帶來不可估量的惡果。

在牛津大學研究AI對社會影響的Miles Brundage說，我們有理由認為AI外交是有效的，如果各國可以避免技術競賽的這種想法，那麼大家都將會是優勝者。

Allen說：核武器已經證明，已經有很多國家有能力拒絕核武器開發的誘惑。然而，因為AI在國家安全中的各種用途，對於各個國家的誘惑實在太大，相信在未來這對美國以及其他國家來說，如果AI外交成為現實，那麼，這些國家的自我約束的能力將會無疑得到相當的鍛煉。

還記得Elon Musk對人工智慧的擔憂嗎，絕對不是空穴來風。我們相信AI將會改變戰爭，具備和核武器一樣的力量，那麼，我們現在最應該擔心的就是AI技術演化為軍備競賽，大國和小國相互廝殺，頭破血流。

參考文獻：

AI COULD REVOLUTIONIZE WAR AS MUCH AS NUKES，Wired

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！