殺手機器人會被禁止嗎？ 26 個國家呼籲制定明確禁令

儘管倡導組織一再要求推進針對人工智慧武器的禁令，它短期內不太可能達成

倫敦電 — 美國國防部正在開發一種自主式導彈，能使用軟體自主選擇目標。英國軍方的一種人工智慧無人機可以自己識別射擊點。俄羅斯也展示過不需要士兵在裡面作戰的坦克。

多年來，人工智慧技術促使軍方領導人思考一種幾乎無需人類參與的未來戰爭。但隨著作戰能力的提高，自主武器投入戰場越來越不再是個假想。

軟體和演算法可能做出生死攸關的決定，這給一個名為「阻止殺手機器人運動」（Campaign To Stop Killer Robots）的組織增添了新的緊迫感。該組織召集了軍備控制倡導者、人權組織和技術專家，敦促聯合國起草一份全球條約，禁止在無人操控的情況下使用武器。就像在網路空間，網路攻擊沒有明確的交戰規則一樣，在使用自動化武器方面目前也還沒有劃定紅線。

一些外交官擔心，如果沒有防擴散協議，世界將陷入一場由演算法驅動的軍備競賽。

9 月 25 日，在紐約聯合國大會開幕時的一次演講中，聯合國秘書長安東尼奧·古特雷斯（Antonio Guterres）將人工智慧武器與氣候變化、日益加劇的收入不平等一道列為了全球風險。

古特雷斯說，「讓我們如實地看待這個問題：機器擁有奪走人類生命的自由裁量權和權力，這種前景在道德上令人反感。」

兩周前，歐盟負責外交和安全政策的高級代表費德麗卡·莫蓋里尼（Federica Mogherini）表示，這些武器「影響了我們全體人類的安全」，決定生死的權力必須掌握在人類手中

共有 26 個國家呼籲制定明確的禁令，要求在使用武力時必須施以某種形式的人為控制。但禁止人工智慧武器的可能性很小。包括美國在內的幾個有影響力的國家都不願意在該技術仍處於發展階段時對其加以限制。

外交官們一直未能就如何實施或執行全球政策達成共識。一些人呼籲達成自願協議，另一些人則希望制定具有法律約束力的規則。

今年 8 月，聯合國在日內瓦為此舉行了一次會議，有 70 多個國家參加，但進展甚微。因為美國和其他國家表示，在全面限制人工智慧武器之前，需要更好地了解這項技術。另一輪會談預計將於今年晚些時候舉行。

一些人擔心禁令會影響民用研究。在人工智慧和機器學習領域，最前沿的工作大多來自各所大學和 Google、Facebook 等公司。但這些技術大多可以用于軍事用途。

「很多人工智慧技術都是在政府之外開發出來並向公眾發布的，」矽谷組織 OpenAI 的發言人傑克·克拉克（Jack Clark）說，該組織提倡更慎重地採用人工智慧。「這些技術具有可應用於許多不同領域的通用能力，包括武器化。」

在任何人工智慧武器投入戰場之前，主要的技術挑戰仍然存在。歐洲研究所（Institute for European Studies）專門研究新興軍事和安全技術的研究員馬艾克·維爾布魯根（Maaike Verbruggen）說，人類和機器之間的交流溝通仍然有限，這使得人類很難理解人工智慧機器如何做出決定。她表示，我們還需要制定更好的防護措施，以確保機器人的行動符合預期。

不過，為倫敦的市場研究公司 Jane』s by IHS Markit 研究軍事支出的分析師德里克·梅普（Derrick Maple）認為，未來 20 年，相關技術將取得重大進展。他說，隨著技術變化，任何國際協議都可能是徒勞的；一旦發生戰爭，各國就會把協議撕成碎片。

「你不能制定交戰規則，」梅普爾說，「如果敵人要做什麼，那麼你也不得不做些什麼。不管你制定了什麼規則並落實到位，一旦發生衝突，這些規則都會被拋到九霄雲外。」

因為發現了一個新的收入來源，國防承包商們急於建造下一代的機器。去年，波音重組了其國防業務，其中一個部門的工作重心便是無人機和其他無人武器。該公司還收購了自主飛行器製造商 Aurora Flight Sciences。洛克希德·馬丁公司（Lockheed Martin）、BAE系統公司和雷神公司（Raytheon）等其他國防承包商也在進行類似的調整。

在該領域工作了 40 多年的梅普爾估計，未來 10 年，無人機和艦船等無人駕駛軍用車輛的軍費支出將超過 1200 億美元。

目前尚未發現有國家在戰場上部署完全自主的武器，但軍方多年來一直在使用自動化技術。以色列的「鐵穹」（Iron Dome）防空系統可自動探測並摧毀來犯的火箭彈。韓國使用自主設備探測朝鮮邊境的動向。

梅普爾希望在將責任完全移交給機器人之前，人類和機器之間能有更多的合作。例如，研究人員正在研究如何用人工智慧無人機艦隊來支援飛機和坦克。

2016 年，五角大樓在莫哈韋沙漠（Mojave Desert）的一次測試中強調了它的能力。100 多架無人機被從一架戰鬥機上胡亂扔下，之後它們迅速聚集，沖向並包圍目標。從五角大樓分享的雷達視頻來看，這些無人機看起來就像一群遷徙的椋鳥。

當這些無人機在頭頂上空飛行時，沒有人在駕駛它們，而且這些機器看上去與任何人都能從消費電子產品商店買到的機器沒有太大區別。按照設定的程序，這些無人機可以相互獨立地進行溝通，集體行動、達到目標。

五角大樓戰略能力辦公室主任威廉·羅珀（William Roper）當時表示：「它們是一個集體有機體，共享一個分散式大腦進行決策，並能像自然界中的動物群體一樣相互適應。」

對於那些為自主武器發展深感擔憂的人來說，其含意是顯而易見的。

「你是在把殺人的決定交給一台機器，」奧地利政府裁軍部門的負責人托馬斯·哈吉諾奇（Thomas Hajnoczi）說，「但機器沒有任何道德評判準則，而且毫無憐憫之心。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！