「機器人殺手」或成真，這個殺手有點冷！

科幻電影《終結者》的鏡頭：專家認為未來科幻領域中的全自動化武器「機器人殺手」或將很快成為現實

隨著人工智慧技術的飛速發展，機器人的「智商」越來越高，功能越來越強大。在人類享受機器人所帶來的各種便利的同時，機器人對人類的威脅也越來越大。專家認為，機器人的威脅性將遠大於其便利性，未來科幻領域中的全自動化武器「機器人殺手」或將很快成為現實。2017年，人類必須要啟動關於禁止「致命性自動武器系統」的磋商程序。

這些全自動化武器可能將徹底改變武裝衝突和法律執行的過程。支持者認為，這些機器人殺手是必需的，因為現代戰爭需要速度，機器人可以讓士兵和警察遠離傷害。但是，更多的人認為，機器人所帶來的威脅要遠大於其在軍事行動和執法過程中的好處，即弊大於利。

攻擊目標的選擇如果沒有人類的決策，那世界將會變成一個極其危險的世界，機器人將在無人控制的情況下做出生死決斷，平民被誤傷的風險和幾率將大幅提升，而且沒有任何人需要對此負責。

考慮到全自動化武器所帶來的道德、法律、人身等方面的風險，人類必須要先發制人，阻止其發展、生產和使用，已刻不容緩。處理這種威脅的最佳方式就是制定一系列具有法律效力的國際性武器禁令，這裡的武器主要是指沒有人類意識控制的全自動化武器。

一些國家正在利用無人駕駛設備執行戰場任務，比如「死神」無人機。但是，攻擊目標的選擇如果沒有人類的決策，那世界將會變成一個極其危險的世界

至少已有20個國家在聯合國會議上提出了這種倡議，即人類應該控制攻擊目標的選擇和交戰與否的決定。四月份，人權觀察組織和哈佛法學院國際人權研究中心發表一份最新報告，提出了許多關於禁令的建議。這兩個組織一直在致力于禁止全自動化武器的研發與生產。

人類對武器保持控制也是一種道德的必要，因為人類有惻隱之心，在傷害其他個體時他們會有情感上的壓力。對人類尊嚴的尊重，可以也是應該作為對殺戮的抑制。相反，機器人沒有真正的情感，它們根本沒有方向和限度。此外，無生命的機器人，它們根本無法真正理解生命的價值與意義。

人為控制也可以推動人類對國際法的遵守，因為國際法也是為了保護平民和士兵。人類可以根據以往的經驗和道德考量做出自己的判斷，可以根據不同的實際情況做出不同的決定。然而，全自動化武器則幾乎不可能有此判斷力，它們所執行的程序也不可能考慮到所有的情節。

無生命的機器人，它們根本無法真正理解生命的價值與意義。這些福斯特-米勒「魔爪」機器人裝備了多種武器。專家認為，如果這樣的系統被製造成全自動化，它們有可能攻擊錯誤的目標

因此，這些武器不可能成為一名「理性的指揮官」，擁有傳統的處置複雜、不可預見局面的能力。此外，失去人類控制將可能威脅目標的一種權利，即不能任意剝奪別人的生命權。在任何的執法環節和軍事行動中，保證這一基本權利也是一種責任。在評估攻擊的必要性時，必須要做出此判斷，而做出合理的判斷，人類的能力要強於機器人。

現在，要想找到可以負法律責任的全自動化武器研發者和生產商仍然存在不少障礙。在美國，政府為大多數武器生產商制訂了豁免政策。當然，美國檢測武器產品質量的標準也非常高，這樣也可以促使武器生產商更具法律責任感。

這款「死神」無人機攜帶有GBU-12鋪路Ⅱ激光制導炸彈

在4月份在日內瓦召開的一次聯合國會議上，94個國家倡議啟動關於「致命性自動武器系統」的磋商。這些國家將共同商討常規武器公約是否能夠限制「致命性自動武器系統」的生產。12月，加入這一公約的國家將召開會議，制定未來工作的日程表。最為關鍵的是，各成員國應該商定於2017年正式啟動關於「致命性自動武器系統」的磋商程序。

裁軍首先需要人類對武器的控制。比如，國際社會已經制定了得到廣泛認可的公約，用來禁止生物武器、化學武器和地雷等。因此，各國現在也應該禁止「致命性自動武器系統」。專家建議，在12月的會議上，各個已加入常規武器公約的國家也應該齊心一致向這一目標努力。

在不久的將來，《鋼鐵俠2》中的軍用機器人或將走進現實

他們首先要通過談判達成一個新的國際性協定來定義「致命性自動武器」。其次，在2017年，各國還需要花費足夠的時間進行深入研究。考慮到國際法律的制定過程漫長，各國可以先快速地定義「致命性自動武器」的威脅。專家最後還建議，各國應該抓住這次會議的最佳機遇，因為別無選擇，不能因為科技超越外交而給人類帶來可怕的後果。

一起看科學是什麼

tech.sina.com.cn/discovery/

微信ID：sinascience

長按左側二維碼關注

請您繼續閱讀更多來自 新浪探索 的精彩文章:

※這個殺手有點冷
※這個「殺手」有點冷，能實現精確打擊的「水泥彈」！
※手術很成功，病人卻差一點走了，原來身體里還潛伏著這個殺手
※人質愛上綁匪？這個殺手真的不太冷
※沒有第二把刀的人，是沒有資格成為殺手的
※這個殺手不太冷
※這個武器一出，又要成為新的「殺手鐧」
※黑衣人逆襲今夏，這個殺手有點冷！
※壁紙 | 沒有第二把刀的人，是沒有資格成為殺手的
※《這個殺手不太冷》：這個殺手可能是兼職的，主業還是暖萌大叔
※這些潛伏在我們身邊的「殺手」有多可怕？
※這個殺手腦洞有點大
※這個殺人不眨眼的殺手有沒有讓你睡不著覺過？
※最可怕的殺手是怎樣殺人的……
※她是冷血女殺手，目標只有一個，多次刺殺失敗後她偽裝成秘書接近他
※有人說21世紀離婚的最大殺手是手機，這個預言恐怕快要成真了
※背影殺手算什麼？更兇殘的「殺手」是她們！
※身體各器官的殺手都只有一個字！躲過它，救救你垂危的器官！
※致癌物，你身邊的殺手真有那麼可怕？