「殺手機器人」正迅速變成現實：自主武器將使人類陷入危機

隨著人工智慧技術不斷進步，機器人能夠自主選擇並攻擊目標的可能性也在迅速增加。全自主武器，又名「殺手機器人」，正在迅速變成現實。

如果選定目標時無需人類決策，我們的世界將變得危險叢生。機器人會脫離人類的控制，自己做出生死攸關的決定。但有些國家已經開始在戰場上使用無人武器了。

機器人無法真正理解人類生命的價值，因此賦予它們決定權會損傷人類的尊嚴。圖為 Foster-Miller公司生產的TALON SWORDS作戰機器人，配備了多種武器。

據國外媒體報道，參與《特定常規武器公約》的一百多個國家將於明年圍繞禁止「殺手機器人」這一議題展開討論。　在近日於日內瓦舉辦的、五年一度的審查大會上，《特定常規武器公約》的123個成員國商定，將於明年正式開始著手解決由無需人類操控便可自動選擇並攻擊目標的武器系統所帶來的挑戰。此前專家曾警告稱，我們能對這一技術加以控制的「時間已經不多了」。

「參與此次日內瓦會議的各國政府在遏制殺手機器人的研發方面取得了重大進展，但我們的時間已經所剩無幾。」人權觀察組織（Human Rights Watch）的武器部主任、「阻止殺手機器人」運動的共同發起人史蒂夫·古斯指出。「一旦這些武器被研發出來，我們就無力阻止了。我們必須趁現在發布禁令，才能先發制人。」

在第五屆聯合國特定常規武器公約審查大會上，世界各國一致同意，將在明年的聯合國大會上圍繞禁止致命性自主武器的議題展開為期兩周的正式討論。會談將於明年4月或8月進行，已有88個國家同意出席。這些武器尚未問世，但武器技術正朝著自動化的方向迅速發展。越來越多的人擔心，新技術會導致人類放鬆對使用致命性武器的管控。

「隨著人工智慧技術不斷進步，機器人能夠自主選擇並攻擊目標的可能性也在迅速增加。」人權觀察組織研究院邦妮·多徹蒂指出，「全自主武器，又名『殺手機器人』，正在迅速變成現實。這些武器可以用于海陸空作戰，將對武裝衝突和執法造成嚴重的威脅。支持者認為殺手機器人的出現必不可少，因為現代作戰需要快速移動，並且如果用機器人代替人類參戰，就能減少士兵與警方傷亡。但殺手機器人對人類的威脅將大大超過為軍事或執法行動帶來的好處。如果選定目標時無需人類決策，我們的世界將變得危險叢生。機器人會脫離人類的控制，自己做出生死攸關的決定。造成巨大傷害和平民傷亡的可能性也會因此增加。且無人會為此負責。使用全自主武器會帶來巨大的道德、法律和責任風險，因此我們必須提前禁止它們的研發、生產和使用。最好的方法便是以國際法的形式，禁止研發缺少人類必要控制的武器。」

機器人無法真正理解人類生命的價值，因此賦予它們決定權會損傷人類的尊嚴。圖為MQ-9「收割者」號偵察機。

《鋼鐵俠2》中的作戰機器人也許不日便將成為現實。專家表示，各成員國同意在2017年圍繞致命性自主武器系統開展正式會談具有至關重要的意義。在加強人類對武器的管控問題上，裁軍法已有先例在前。

按照現有的國際刑法，人類操控員在大多數情況下將無需為武器自主運行時造成的傷害承擔責任。除非此人存心用全自主武器犯案，否則讓其負責就是不公平的，在法律上也不成立，因為操控員無法預防機器人的行為，也無法對其進行懲罰。而向全自主武器的編程人員和製造商追責也是困難重重，因為他們可以上訴稱，這些武器被別人用在了錯誤的地方。

例如，美國規定大多數武器製造商無需負法律責任。要想證明某個產品存在需要製造商負責的嚴重缺陷，也需要達到很高的標準。此外，其它國家的受害者通常缺少起訴國外公司的渠道和資金，這也將降低對犯罪行為的震懾力度。

在4月於日內瓦舉辦的聯合國大會上，94個國家提議針對「致命性自主武器系統」開展正式會談，討論《特定常規武器公約》是否該對此類武器系統加以限制。在12月舉辦的審查大會上，公約成員國共同商定了接下來的工作日程。各成員國同意在2017年圍繞致命性自主武器系統開展正式會談具有至關重要的意義。

在加強人類對武器的管控問題上，裁軍法已有先例在前。例如，國際社會已經廣泛接受了禁止使用生化武器和地雷的公約，因為人類無法有效控制這些武器造成的後果。而世界各國如今也應當禁止全自主武器的使用，因為此類武器也會給人類帶來類似的、甚至更加嚴重的威脅。

各國應圍繞解決全自主武器的問題展開談判，締結新的國際合約，把大家一致關心的問題落實為實際行動。為取得實質性的商議結果，至少應留足幾周時間進行談判。雖然新國際法的誕生往往經年累月，但各國應加快步伐，應對自主武器帶來的威脅。我們必須好好利用此次審查大會提供的機會，否則後果將難以承受：給予機器人高度自主權，將使人類陷入前所未有的嚴重危機。

本文來源新浪探索，轉載請註明出處！