「殺手機器人」即將成為現實人類只剩1年時間阻止

知識 06-18

據每日郵報報道，隨著人工智慧技術的進步，機器人獨立選擇和射殺目標的可能性正日益加大。全自動武器或稱「殺人機器人」正迅速從科幻小說變成現實。但是新技術突破可能導致人類失去使用致命武器的控制權，人類現在只剩1年時間可以阻止「殺人機器人」誕生。

「殺人機器人」可被部署在陸海空領域，有望以驚人的方式徹底改變武裝衝突和執法現狀。支持者表示，「殺人機器人」的存在很有必要，因為現代戰爭節奏非常快，而機器人參戰可以確保士兵和警察免受傷害。

可是「殺人機器人」對人類的威脅可能超過任何軍事或執法部門獲得的好處，人類失去對執法目標決策權將導致世界陷入危險，機器將可自主決定人類生死。平民受到不對稱傷害或被列為錯誤目標的危險將大幅增加，而沒人會為此負責。

鑒於全自動武器存在的道德、法律以及責任風險，控制它們的研發、製造以及使用已經迫在眉睫。應對這種威脅的最好方式就是制定有法律約束力的國際禁令。至少20個國家已經在4月份的聯合國大會上表態，支持人類決定執法目標的選擇。由人權觀察組織和哈佛法學院國際人權診所共同發布報告，也呼籲禁止全自動武器。

保持人類對「殺人機器人」的控制具有道德意義。因為人類擁有同情心，可以感受到受害者的情緒變化。他們尊重人類尊嚴，會慎重考慮行動後果。而機器人缺少這些情緒，包括移情作用。此外，無情的機器並不理解人類生命的價值。由機器人決定是否使用武力將傷害人類尊嚴。

人類控制「殺人機器人」也會促進遵守國際法，後者主要用於保護平民和士兵。人類可以基於以往的經驗和道德規範做出判斷，可是「殺人機器人」無法複製這種判斷，無法對它們進行可應對所有假設情況的預先編程。結果，這些「殺人機器人」無法像「理性指揮官」那樣做出選擇和判斷。

按照國際刑法規定，人類操作者大多數情況下不必承擔武器傷害引發的責任。除非人類使用全自動武器實行犯罪，否則讓人類為機器人的行為負責是不公平的，畢竟人類操作員無法預防或懲罰機器人。此外，尋求讓全自動武器程序員和製造商承擔責任也存在法律障礙，比如美國大多數武器製造商擁有豁免權。

在4月份的聯合國會議上，94個國家支持對處理「致命自動武器系統」開始正式討論，以決定這些系統是否受到《常規武器公約》限制。這些國家將於12月份參加評估會議，為未來工作設定議程。在12月份評估大會上，加入常規武器公約的國家有可能提議完全禁止全自動武器。

他們應該發起新的國際協議談判以應對全自動武器威脅，但是制定國際法的過程相當緩慢，許多國家應該更快行動起來，以應對全自動武器的威脅。他們應該抓住評估大會的機會，讓技術失去控制可能產生可怕的、空前的人道主義災難。（小小）

請您繼續閱讀更多來自 cnBeta 的精彩文章:

您可能感興趣

「殺手機器人」即將成為現實 人類只剩1年時間阻止