馬斯克帶頭呼籲禁止「殺人機器」，他們在恐懼什麼？

摘要：擔心 AI 進軍軍火行業會造成人類戰爭和殺戮的低成本化，這才是他們上書聯合國的原因。

軍火行業可以說是世界上最大最賺錢的行業之一，儘管多數人對它知之甚少，在和平的地區更是完全接觸不到。但是這並不影響日漸滲透到我們日常生活的人工智慧向這個領域邁進。

說起人工智慧和軍火業，你可能最先想到的是 T-800 那樣的終結者或者《超能查派》里的 CHAPPiE，但很可惜，這些科幻電影里的機器人目前還只能存在於人們的幻想，或者恐懼之中，距離現實還非常遙遠。

我們所說的人工智慧進軍軍火業，是指致命自主化武器（LAW），現階段有一些自動機槍和無人戰鬥機，比較有代表性的包括韓國三星的步哨機槍 SGR-A1 （http://t.cn/RCXCgyk）和英國航太雷神無人戰鬥機（http://t.cn/RCXN2Jb），另外美國和俄羅斯也在開發無人坦克，無需人類的操作就可以在地面上戰鬥。

毫無疑問，隨著計算機技術的發展，軍火行業也盯上了一些能為其所用的技術，利用人工智慧的先進演算法，自主化武器也會像日常生活中的智能設備一樣，發生革命性的進步。而普通人工智慧設備的安全問題就足以引起我們的關注，更不要說這些致命的殺傷性武器了。

專家團聯名諫書聯合國

據多家外媒報道，當地時間上周日，包括埃隆·馬斯克和 DeepMind 聯合創始人穆斯塔法·蘇里曼（Mustafa Suleyman）在內的 116 位來自 26 個國家的科技公司創始人及 AI 和機器人領域的專家聯名簽署了一封致聯合國的公開信，請求聯合國禁止自主化武器（「殺人機器人」）的開發與應用。

「由於科技公司們所開發的人工智慧和機器人技術可能會被誤用於自主化武器的開發，因此我們認為發出這樣的警醒是我們的責任。」

「致命的自主化武器可能會帶來第三次戰爭革命，一旦發展完善，它將會導致武裝衝突進入一個前所未有的規模，並且在速度上超越人類的理解範圍。它們可能會成為令人聞風喪膽的武器，被恐怖分子、暴君所利用，施暴於無辜的人民，甚至可能會為黑客所挾持。」

IJCAI 是全球最重要的 AI 盛會之一，而 AI 的安全問題也是其重點討論的議題之一。兩年前的 IJCAI 大會上，包括埃隆·馬斯克和史蒂芬·霍金和很多人工智慧領域專家在內的數千人同樣簽署了一封公開信，呼籲聯合國禁止致命自主化武器，那次事件在全球範圍內引起了不小的波瀾，也贏得了聯合國充分的重視。

2015 年，英國政府公開表示反對這樣的禁令，並表示「國際人道主義法規已經對該領域制定了足夠的限制」，英國並沒有在開發致命的自主性武器，英國使用的所有武器都「在人類的監察和控制之內」。

馬斯克 2014 年發的推特

埃隆·馬斯克早在 2014 年就發過推特，表示人工智慧可能會成為比核武器更大的威脅。前不久在 DOTA 2 的一場國際比賽上，OpenAI 開發的 AI 玩家 solo 完勝了人類頂級玩家，之後馬斯克又在推特上發言稱「如果你還沒開始擔心 AI 的安全性，你應該考慮考慮了。（它）比朝鮮半島的情況危險多了。」然後配了一張標示著「最終勝利的是機器」的圖。

他們在恐懼什麼？

那麼，這些科技公司的創始人們到底在擔心——甚至害怕些什麼呢？

此前這些科技公司的創始人們曾經表示，根據目前 AI 技術的發展，不需要數十年，自主化武器在幾年之內就可以開始部署。雖然有觀點認為自主化武器和理想中的機器士兵能夠讓人類士兵避免在戰場上受到直接傷害，但也有專家認為，自動運行的武器會降低戰爭的門檻，從而給人類帶來更大的傷害。普林斯頓之戰

的確，戰爭從古老的冷兵器作戰到熱兵器再到核武器，發生了兩次大的革命，有觀點稱人工智慧將會成為第三次武器革命的核心技術。戰場上人類的參與越來越少已經是一個不可逆的趨勢了，但隨著人類參與的減少，人類對武器的控制也越來越鬆弛了，從前人們舉著砍刀和長槍，後來有了導彈和核武器，人類可以在控制室里實現橫跨大洲的武力打擊，現在，完全自主的武器連遙控都不需要了，它能夠針對目標完成自動的打擊。

那麼萬一這種武器落入不法者的手裡呢？以前他們需要揣著小刀近距離實施犯罪，後來他們遠距離使用槍支犯罪，未來，這些罪犯可能已經「過時」了，一旦自主化武器在各個國家普及開來，針對軍事力量的黑客們可能也就成為了最具威脅性的恐怖分子，試想一下，如果各國的自主武器系統被攻破，後果會是怎樣的。

《連線》雜誌就刊文（http://t.cn/RCXNM2I）表示，馬斯克等人聯名簽署的這封公開信只是為了給聯合國提供技術上的諮詢與支持，「該組織警告自主化武器會成為恐怖分子的武器是沒錯的，但試圖徹底禁止它們可能就是在浪費時間了。」

再回到這封信上來，在公開信下方列出的一百多位來自各個國家的專家和企業家中，大部分人本都應該是技術革命的絕對擁護者，他們中很多人是技術出身，甚至可能對軍事和武器有著濃厚的興趣，但為什麼他們要站出來反對 AI 在軍事行業的應用呢？

他們看似「杞人憂天」地警示我們一些尚未發生的「科幻情節」，這才是最值得我們關注的。

當然，雖然埃隆·馬斯克不遺餘力地警告人工智慧的危險性，諸多人工智慧專家和科技公司創始人聯名諫書聯合國，但是他們依然沒有放棄人工智慧技術的開發和研究，AI 是行業的未來，這一點，是一兩條聯合國的禁令所阻止不了的。

頭圖&部分插圖來源：視覺中國（https://www.vcg.com/）

本文由極客公園原創

轉載聯繫 wangxue@geekpark.net

GIF/155K

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！