抱歉，要禁止「致命智能武器」的開發可能是不現實的

上周日，包括伊隆·馬斯克（Elon Musk）在內、來自全球的 116 位人工智慧專家向聯合國致公開信，預警了會因過度開發或使用「智能武器系統」而引發的「潘多拉魔盒」效應。

事後，眾多媒體卻將「警告」渲染為「對全面禁止（智能武器）的呼籲」。但事實上，這封信件只是向聯合國內部負責智能武器的委員會提出了技術性建議。自動化武器確實可以成為「恐怖武器」，但在現狀下，全面禁止它們卻並不實際。

而這並不代表出台針對特殊武器技術的禁令不可實現。許多現行的禁令都很好地發揮著效力：比如由 192 個國家簽署的化學武器禁令，再比如通過全球協定的禁止使用激光武器永久致盲的條例。

但是，自動化智能武器系統的情況有所不同。首先，基於目前武器技術上人機合一的發展進程，人為操縱和自動開火的武器之間的界定越來越模糊。而且，無人機、無人車等軍用設備的高效也使得它們在現代戰爭中越來越不可替代。

近期一篇關於人工智慧和戰爭的研究報告就指出：「科技的最終目的就是快速放大武裝力量。」以美國為首的、在軍備研發上高速前進的國家，很難放棄對精尖智能武器的追求。而發展軍備技術也在發達國家的帶領下，成為了全球性的、難以消退的浪潮。

大家肯定會好奇，難道就沒有任何法製法規來約束戰爭機器咄咄逼人的發展勢頭嗎？ 有，但是現有的條例約束性並不強，而且很多國家或政府主觀上並不願意在暗流涌動的軍備競賽中放緩腳步。

以美國為例：美國國防部確實有「（必須）將人類作為（武器）系統的一部分」的政策，換言之就是對全自動武器加入人為因素的制約。但同時，這些專屬於國家的條例並不受國際上對智能武器禁令的影響。

如今，能自主決策的軍事裝備如雨後春筍。現服役於美國海軍的 AEGIS 艦載導彈和防空系統，能完全自動鎖定、瞄準趨近的敵機和導彈，並自主做出開火決定。類似地，以色列開發的Harpy無人機，如果在巡邏中發現任何雷達信號，會馬上對目標俯衝轟炸。Harpy也有屬於自己的、名副其實的的廣告詞——「開火了，就忘了罷」（「Fire and Forget」）。

軍火商在武器開發上的進展也讓科技界其他領域感到不安。伊隆·馬斯克早在 2015 年就與上千名來自學界和工業界的人工智慧專家聯名簽署了一封信件，旨在推動全面禁止將智能武器用於任何進攻性目的的進程。

與上周日同樣有他參與的公開信一樣，2015 年的活動也是由「生命未來研究院」（the Future of Life Institute）組織的。這個組織的名單上也印有很多大家耳熟能詳的名字：史蒂芬·霍金、索爾·珀爾馬特、阿蘭·古斯等人都是該組織科學諮詢委員會的成員。

但「致信運動」不應是解決問題的唯一路徑。耶魯法學院的研究員 Rebecca Crootof 表示：「對智能武器表示擔憂的人應該將精力更多地放在規章的制定和完善上。」確實，類似日內瓦公約的國際法律，就包含限定人類士兵行為的條例，那這些法律也可以建立起合理的、對機器士兵的限制。面對越來越「智能」的武器，我們人類勢必也要充分發揮自己的才智。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！