安全太過脆弱埃隆馬斯克呼籲聯合國禁止機器人武器

科技 08-23

矽谷鋼鐵俠埃隆·馬斯克，繼與扎克伯格就人工智慧危險性話題的隔空爭論，認為AI之害可能勝於朝鮮後，呼籲政府對人工智慧進行規範管制。本周一，他又帶來26個國家、116位人工智慧和機器人領域專家，向聯合國呼籲，嚴格限制自動化殺人武器，禁止它在國際間使用。

埃隆·馬斯克

在馬斯克給聯合國的公開信中，他將提到的「殺人機器人」，例如無人機、坦克、自動機械搶等，稱為槍械、核武器之後的第三次武器革命。一旦發展，將史無前例地擴大戰爭規模、加快戰爭速度。不論是這些武器淪為恐怖分子的工具、威脅大量平民，還是被黑客篡改、被用於其他用途，都是無法承擔的後果。

據日媒報道，聯合國將在11月中旬，召開正式專家會議，討論代替士兵的殺人機器人無期的管制問題。

這些軍用武器到底有多大的危害，國際社會要對它做出怎樣的規範，各國會提出如何的應對，都將是一場曠日持久、充滿了相互扯皮的鬥爭，遠不是幾個科技界的企業家能夠左右的。不過，馬斯克在公開信和此前的討論中，經常出現的人工智慧、機器人安全問題，即使是在如今的弱人工智慧、服務型機器人身上，也是一個現實存在的問題。

《連線》最近在新加坡做了幾個實驗，用黑客的方式侵入了已經上市的民用機器人：阿爾法二代（Alpha 2）、NAO 機器人，以及優傲機器人的工業機器手臂。事實證明，機器人不僅能夠被黑客入侵，更能在入侵後，改變關鍵的安全設置，將這些本來用以幫助人類生活的機器人變成他們的監控器、監聽儀。

變得暴力的Alpha 2

用來實驗的三種機器人，都聲稱自己的安全係數良好，但是，實驗過程中，它們不是能被植入新的軟體，執行兩種指令，就是它的開發功能，讓黑客入侵的成本極低。一些機器人的安全係數，完全是三四年前的。

完全聽從遠程控制，監看人類的NAO

今年三月，新加坡的這個研究團隊，就曾經給出過一份深入的報告，他們手機的市面上的50多個機器人和機器人軟體，包括韓國的Robotis、美國的Rethink Robotics等，都有著很大的安全隱患。不過，幾個月過去了，即使是那寫被拍成視頻的機器人公司，也只是發文告誡用戶，保護好自己的密碼和網路安全環境。

工業機器臂：被入侵後，做出會傷害周圍工作人員你的危險舉動

此前的義大利米蘭的研究團隊，也對工業機器人的安全問題，進行過研究，他們也發現，只要植入了代碼，就能完全改變機器手臂的用途。