馬斯克攜115名AI專家發公開信：聯合國應禁止殺人機器人

編譯｜金鹿

編輯｜陳光

微信公眾號ID｜Xtecher

近期，美國太空探索技術公司SpaceX、特斯拉電動汽車公司首席執行官伊隆·馬斯克（Elon Musk），連同谷歌DeepMind聯合創始人穆斯塔法·蘇利曼（Mustafa Suleyman）在內的116名機器人和人工智慧（AI）領域領袖人物所簽署公開信中的內容，敦促聯合國阻止這項技術改變我們所熟悉的衝突模式。

眾多科技大佬表示：聯合國現在必須採取行動，以禁止自主武器（又稱殺人機器人）的使用。

公開信中稱：「致命的自主武器有可能成為戰爭中的第三次革命。一旦它們發展起來，可能導致武裝衝突以比以往任何時候更大的規模進行，而且速度比人類所能理解的還要快。」這封信明確概述了自主武器的使用如何超出控制，如何落入壞人之手的細節。信中稱：「這些自主武器可能成為恐怖武器，比如獨裁者和恐怖分子可能對無辜人群使用。我們沒有太多時間可浪費，一旦潘多拉的盒子打開，就很難再關閉。」

機器人和AI社區，以及人權組織始終認為，自主武器很可能成為衝突地區製造極端反人類罪的罪魁禍首。Campaign to Stop Killer Robots組織首席協調員瑪麗·韋勒姆（Mary Wareham）稱：「殺手機器人將把人類從殺戮決定中排擠出去，這跨越了我們認為不應該超越的基本道德和倫理底線。」

這封公開信發布在聯合國即將就致命自主武器問題進行正式討論之前。鑒於聯合國此前已經成立政府專家小組來審查這個問題，公開信中懇求這些專家找到一種方法，來防止獲得這類武器的軍備競賽。這封信是在墨爾本召開的國際AI聯合會議開幕時發布的，該會議參與者都是世界領先的機器人和AI領域專家。

如信中所述，聯合國小組原定於周一開始工作，但最終被推遲到11月份。隨後，這封信敦促專家小組在未來幾個月內「加倍努力」。這不是AI和機器人專家們首次發布警告，敦促我們需要禁止研發軍事機器人。2015年，馬斯克、物理學家史蒂芬·霍金（Stephen Hawking）以及蘋果聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）等3000多名AI研究人員曾簽署公開信，要求禁止開發「超過人類控制意義之外的自主武器」。當時，研究人員們說，AI軍備競賽是個「糟糕的主意」。2年後，新的公開信中警告說，糟糕的主意可能引發災難。

━━━━━

封面來源：網路 排版：陳光 校對：陳光

━━━━━

如果您有國內外科技行業新鮮資訊或獨到見解，歡迎與Xtecher聯繫

Xtecher官網平台現開通認證作者，

（添加好友請註明公司、職位、事由）

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！