美軍規劃人工智慧以獲取戰略優勢之路

來源：防務快訊

轉載請註明出處

人工智慧技術得到了廣泛地宣傳，這些技術的確在某些方面取得了令人興奮的進展，但它們仍然會受新型故障模式的影響，而且易受各種形式的對抗性攻擊和操縱。人工智慧技術也缺乏人類所具有的最基本常識和判斷能力。

這份白皮書主要針對國防部門，試圖闡明其中的一些風險，並提出避免這些風險的方法。除了明顯的問題之外，在人工智慧被廣泛部署之前，還有一些風險需要軍事規劃者仔細研究。報告第一部分指出了人工智慧在軍事上的應用所產生的意想不到的風險，主要包括以下4項：

機器學習系統很容易被欺騙或被干擾：神經網路很容易受到敵方樣例輸入、模型竊取和數據中毒等一系列新型攻擊。在這些攻擊被更好地理解和防禦之前，軍隊應該避免機器學習應用程序暴露於敵人的輸入之下（直接輸入或可預見的間接輸入）；

當前賽博安全領域的力量平衡明顯有利於攻擊者而非防禦者。在這種情況發生改變之前，人工智慧應用程序將在不安全的平台上運行，這是指揮、控制和情報（C2I）以及自主和部分自主武器面臨的嚴重問題；

最近許多廣為宣傳的人工智慧成就都來自強化學習（RL）領域，但目前強化學習系統難以預知和控制，不適合複雜的現實部署；

人工智慧、自主性越來越強的武器以及演算法化C2I的軍事應用帶來的最大風險是部署的系統之間的交互將極其複雜，無法建模，並可能出現難以緩解的災難性故障。因此，如果在這類軍事應用中使用機器學習或演算法自動化，則會產生意外衝突或衝突意外升級的嚴重風險。

報告第二部分提出並闡述了以下減少這些風險的方法：

建立國際機構並達成一致，在軍事背景下管理人工智慧和人工智慧相關的風險；

關注「殺傷鏈」之外的機器學習應用，包括後勤、系統診斷和修復，以及防禦性網路安全；

將研發重點放在提高機器學習系統的可預測性、魯棒性和安全性上；

與更廣泛的學術和民間研究團體分享可預測性和安全研究；

將防禦性賽博安全（包括修復廣泛平台和民用基礎設施中的漏洞）作為主要戰略目標，因為硬體和軟體平台的安全是許多人工智慧軍事用途的先決條件。在改變賽博攻擊和防禦之間的平衡方面，國家安全部門可以發揮關鍵作用。

參與軍隊間的對話，尋求協議或條約等，以防止意外衝突和衝突意外升級的風險，這種風險是武器系統和C2I的自動化程度不斷提高所固有的。

最後，報告第三部分提出了未來需要考慮的戰略議題，旨在幫助國防界建立安全可控的人工智慧系統。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！