警惕！AI殺手機器人就在你身邊

我們與機器人的區別是，

我們將逝去的人埋葬，而機器人不能。

—電影《終結者》

1984年，施瓦辛格在電影《終結者》中塑造了一個獨一無二的熒幕形象——終結者機器人T-800，雖然彼時的科技水平與現在相比略顯粗糙，但依舊栩栩如生。

那時沒有如今的人工智慧風口，但也讓人們第一次意識到，機器人殺手是存在的。T-800這個形象的經典也反映出施瓦辛格演技的精湛，他面無表情，冷血機械，使影片氣氛從頭到底都一直籠罩在「絕望」之中，散發著一種令人心底發毛的恐懼感，其獨到深刻的科幻劇情與深含哲學的科學理念更助推了全球的科幻風潮。

在那個還沒有實現人工智慧飛速發展的時代，導演卻在影片中表達出了對未來科技所存在的隱患的憂慮。

4月12日，據英國《每日郵報》報道，英國謝菲爾德大學諾埃爾?夏基博士預言，無法分清無辜民眾和敵人的殺手機器人一年內即會踏上戰場。

與此同時，一場反對殺手機器人的運動正在世界範圍內展開。

3000名谷歌員工聯名抵制「戰爭科技」

_

不久前，一封公開信已在谷歌公司內部流傳數周，超過3000名谷歌員工簽名要求公司退出一項美國五角大樓人工智慧軍事計劃。

這封信要求谷歌首席執行官桑德爾·皮查伊將谷歌從該項目中撤出，該項目利用人工智慧分析視頻，可以改善無人機的目標。此外，他們還敦促CEO建立並實施一項政策，使該公司或其附屬公司永遠不會製造「戰爭科技」。

在谷歌聯名抵制五角大樓人工智慧軍事計劃的同一時期，聯合國《特定常規武器公約》政府專家小組4月9日在瑞士日內瓦召開會議，預定討論致命自主武器系統研發，也就是常說的「殺手機器人」可能帶來的影響。

來自30個國家超過50名世界領先的人工智慧和機器人專家宣布了對韓國科學技術院KAIST進行抵制，因為該大學開放了他們聲稱的「人工智慧武器實驗室」，並與韓國最大的集群式彈藥製造商Hanwha系統合作。

他們聲稱，KAIST的國家和人工智慧融合研究中心將會加速「全球競爭，發展自主武器」，它們可以「在沒有人類控制的情況下自主搜索和消除目標」。

KAIST校長Shin Sung-chul發表了一份聲明，重申「KAIST並不打算參與開發致命的自主武器系統和機器人殺手」，還承諾「不開展任何與人類尊嚴相關的研究活動，包括缺乏人類有意義控制的自主武器」。

AI殺手機器人早已出現

_

這些聯名抵制並不是故意製造恐慌。早在2017年，聯合國特定常規武器公約會議上，公布了一段「AI殺手」的可怕的視頻：

視頻中，一個體型類似蜜蜂的小型機器人飛入會場並輕易躲過演講人抓捕，其擁有 anti-sniper 技術，完全基於 AI。

GIF

這個小東西蘊含可怕的黑科技：廣角攝像頭、感測器、面部識別，且在其中部，還有3克炸藥。

它的攻擊效果，一擊而中，極端致命，可以使人的大腦瞬間爆炸。

GIF

GIF

視頻最後還演示了一段飛行機器人集體攻擊人類的畫面，通過面部識別定位，輕易殺死了正在上課的一班學生。

GIF

這段視頻發布在2017年11月13-17日的聯合國特定常規武器公約會議上，這一會議由「殺手機器人禁令運動」組織，超過七十個國家的代表出席。

視頻中機器殺手的行兇畫面，不禁讓人感到恐慌，一直以為存在於電影中的畫面，真的有可能在現實中出現。而人類在AI殺手面前，是多麼無助和弱小。

為何要對殺手機器人說「不」

_

霍金曾警告過人類的一樣：「人工智慧的研發需要監督。人工智慧的能力超越人類智慧的時候人類將可能會被消滅，人們需要密切關注其發展。」

人工智慧迅速發展給社會各個領域帶來深遠影響，對軍事作戰系統研發也帶來全新理念。然而，人工智慧界的專家學者及防務分析人士認為，機器人暴動僅是科幻小說式的終極噩夢，軍事機器人革命帶來的倫理、法律及政策等問題，尤其是自主武器能否自行判斷殺敵與否，才是人們亟須擔憂和討論的現實問題。

大多數專家學者一直認為，使用致命武器時，人應當是負責啟動的關鍵要素。對什麼樣的人工控制才是最適宜的討論還未結束，相關的政策制定又已被人工智慧技術的飛速發展甩在身後。

新美國安全中心技術和國家安全項目主管沙雷表示，自主武器系統可能因代碼問題或黑客攻擊而失靈，機器人攻擊人類部隊，人類無法作出反應或局部局勢迅速升級的情況都有可能發生。自主武器系統的可靠性難以測試，會「思考」的機器系統可能以人類操控者從未想像到的方式行事。

科技本就是一把雙刃劍，在面對毫無感情的殺人機器，目前並沒有嚴格而律法能進行控制。

在2017年人工智慧國際會議上，有矽谷「鋼鐵俠」之稱的馬斯克、蘋果聯合創始人之一沃茲尼亞克、研發「阿爾法圍棋」的深度思維公司哈薩比斯等人，都曾簽署公開信，呼籲聯合國應像禁止生化武器一樣，禁止在戰爭中使用致命的自主武器和「殺手機器人」。

資料來源：TechWeb、央視財經、環球網、新華網、豆瓣電影、網易智能等

實習編輯：韋偉

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！