聯合國召開會議討論「殺手機器人」問題

來源：中國科學報 作者：趙熙熙

來自29個國家的57位科學家日前呼籲聯合抵制一所韓國大學，因為設立在該校的一個新的中心旨在利用人工智慧強化國家安全。人工智慧科學家表示，該大學正在開發自主武器，又稱「殺手機器人」，而該大學官員則表示，這項研究的目標是改善現有的防禦系統。

2月20日，位於大田的韓國先進科學技術研究院（KAIST）慶祝其新的國防和人工智慧融合研究中心成立。一個已經被該校刪除的網頁宣稱，將與韓國韓華系統公司聯合運營該中心，其目標是「基於人工智慧的命令和決策系統，為海底大規模無人駕駛機器人提供組合導航演算法，基於人工智慧的飛機訓練系統，和基於人工智慧的對象跟蹤與識別技術」。

人工智慧迅速發展給社會各個領域帶來深遠影響，對軍事作戰系統研發也帶來全新理念。然而，人工智慧界的專家學者及防務分析人士認為，機器人暴動僅是科幻小說式的終極噩夢，軍事機器人革命帶來的倫理、法律及政策等問題，尤其是自主武器能否自行判斷殺敵與否，才是人們亟須擔憂和討論的現實問題。

澳大利亞悉尼新南威爾士大學計算機科學家Toby Walsh發起了這次抵制活動，他擔心這項研究將被應用於自主武器，包括無人駕駛飛機或潛艇、巡航導彈、自主操作的防衛機槍或戰場機器人。

「令人遺憾的是，像KAIST這樣的知名機構似乎在加速軍備競賽，以開發這種武器。」抗議者在一封公開信中這樣表示，「因此，我們公開宣布，我們將抵制與KAIST的任何部門進行合作，直到KAIST的院長作出保證——我們一直在尋求但沒有得到，該中心將不會開發缺乏有意義的人類控制的自主武器。」

KAIST院長Sung-Chul Shin準備了一份聲明，排除了開展此類活動的可能性。他說：「我很難過地聽到有人宣布因為要研製殺手機器人而抵制KAIST。我想重申，KAIST並不打算參與開發致命的自主武器系統和殺手機器人。在應用包括人工智慧在內的所有技術方面，KAIST都清楚地意識到倫理問題。」

這封抗議信並沒有定義何為「有意義的人類控制」，但這句話經常被解釋為把扳機放在一個人的手裡。聯合國《特定常規武器公約》政府專家小組4月9日在瑞士日內瓦召開會議，預定討論致命自主武器系統研發，也就是常說的「殺手機器人」可能帶來的影響。

Walsh說，他對Shin的聲明感到振奮。「很高興看到KAIST首次公開承諾進行有意義的人類控制。這將增加聯合國討論的分量。」

新美國基金會研究人員、防務政策分析人士辛格在其著作《連線戰爭：21世紀機器人革命和衝突》中指出，地緣政治、知識前沿領域不斷前進的動力甚至是追求利益的科技企業，都是人工智慧發展不可阻擋的力量。簡單來說，大部分人現在最感到恐懼的是該不該讓能夠「思考」的人工智慧系統決定是否殺人。

新美國安全中心技術和國家安全項目主管沙雷表示，自主武器系統可能因代碼問題或黑客攻擊而失靈，機器人攻擊人類部隊，人類無法作出反應或局部局勢迅速升級的情況都有可能發生。

美國亞特蘭大市喬治亞理工學院計算機科學家Ronald Arkin說，由於在一個實驗室里可能發生的研究而抵制整個大學在我看來似乎「有點極端」。

同時，一封公開信已在美國谷歌公司內部流傳數周，超過3000名谷歌員工簽名要求公司退出一項美國五角大樓人工智慧軍事計劃。

美國五角大樓「梅文計劃」始於2017年，旨在找到加速軍方應用最新人工智慧技術的方式。儘管五角大樓和谷歌都表示，谷歌的產品不會創造出無須人類操作者就能開火的自主武器系統，但谷歌員工在公開信中說，參與「梅文計劃」將對谷歌的品牌和人才吸引力造成不可挽回的傷害，谷歌不應被捲入戰爭，谷歌及其合約商永遠不應該發展戰爭科技。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！