AI界對「殺手機器人」說不 聯合國為此召開會議

聯合國《特定常規兵器條約》政府專家小組4月9日在瑞士日內瓦召開會議，預訂評論喪命自主兵器體系研製，也就是常說的「殺手機器人」可能帶來的影響。

50多名世界聞名人工智慧和機器人研究人員４日宣告，將聯合抵抗韓國科學技能院，抗議該組織研製人工智慧兵器的方案。

與此同時，一封揭露信已在美國谷歌公司內部撒播數周，超過3000名谷歌職工簽名要求公司退出一項美國五角大樓人工智慧軍事方案。

人工智慧敏捷開展給社會各個範疇帶來深遠影響，對軍事作戰體系研製也帶來全新理念。然而，人工智慧界的專家學者及防務剖析人士以為，機器人暴亂僅是科幻小說式的終極噩夢，軍事機器人革新帶來的倫理、法律及方針等問題，尤其是自主兵器能否自行判別殺敵與否，才是人們亟須憂慮和評論的現實問題。

大多數專家學者一向以為，運用喪命兵器時，人應當是擔任啟動的關鍵要素。對什麼樣的人工操控才是最適合的評論還未完畢，相關的方針擬定又已被人工智慧技能的飛速開展甩在身後。隨著具有認知才能人工智慧體系的呈現，更複雜的問題呈現了。

新美國基金會研究人員、防務方針剖析人士辛格在其作品《連線戰役：２１世紀機器人革新和抵觸》中指出，地緣政治、常識前沿範疇不斷前進的動力乃至是尋求利益的科技企業，都是人工智慧開展不行阻撓的力氣。簡略來說，大部分人現在最感到恐懼的是該不該讓能夠「考慮」的人工智慧體系決定是否殺人。

新美國安全中心技能和國家安全項目主管沙雷表明，自主兵器體系可能因代碼問題或黑客進犯而失靈，機器人進犯人類部隊，人類無法作出反應或局部局勢敏捷晉級的狀況都有可能發生。自主兵器體系的可靠性難以測驗，會「考慮」的機器體系可能以人類操控者從未想像到的方法行事。

美國國防部前副部長米勒以為，自主兵器體系在戰事劇烈的區域執行任務，讓機器全權擔任的誘惑可能會難以抵抗，技能上的可能總是讓人們作出利於局勢的挑選。

關於自主兵器體系，人工智慧界的專家學者一再說「不」，拒絕進行相關範疇的研製。例如，韓國科學技能院研製的機器人從前贏得2015年美國國防部高檔研究項目局機器人挑戰賽的冠軍。據《韓國時報》報道，韓國科學技能院和軍工企業韓華體系協作成立研製中心，目的就是為了研製能夠「無需人工操控就能搜尋並剷除方針」的人工智慧兵器。

對此，50多名頂尖人工智慧研究人員在揭露信中說，他們將抵抗和韓國科學技能院的任何協作，直到該組織宣告不會研製任何缺少人類操控的自主兵器。韓國科學技能院隨後發表聲明說，他們沒有研製「喪命自動兵器體系或殺手機器人」的方案。

美國五角大樓「梅文方案」始於2017年，旨在找到加速軍方應用最新人工智慧技能的方法。雖然五角大樓和谷歌都表明，谷歌的產品不會創造出無需人類操作者就能開戰的自主兵器體系，但谷歌職工在揭露信中說，參加「梅文方案」將對谷歌的品牌和人才吸引力造成不行拯救的損傷，谷歌不該卷進戰役，谷歌及其合約商永久不該該開展戰役科技。

在2017年人工智慧國際會議上，有矽谷「鋼鐵俠」之稱的馬斯克、蘋果聯合創始人之一沃茲尼亞克、研製「阿爾法圍棋」的深度思想公司哈薩比斯等人，都曾簽署揭露信，呼籲聯合國應像制止生化兵器相同，制止在戰役中運用喪命的自主兵器和「殺手機器人」。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！