人工智慧武器開啟「潘多拉魔盒」？

圖說：科幻電影中的「機器人殺手」將成為現實

近日，一則「科學家聯名抵制韓國研發基於人工智慧技術（AI）的自主武器（戰鬥機器人）」的消息引起廣泛關注。英國《衛報》報道稱，全球50多名頂尖學者聯名簽署公開信，斷絕與韓國高級科學技術院的合作交流，原因是該院正與本國軍火商韓華系統公司合作，尋求研發人工智慧武器。

儘管韓國人否認試圖研製「任何脫離人類控制的致命性自主武器或機器人士兵」，但越來越多人感覺到，戰鬥機器人實際成為各國軍方角力的技術制高點，「機器人殺手」出征只是時間問題。

「終結者」接管戰場

基於人工智慧的戰鬥機器人（或稱「機器人士兵」）可在不受操作手控制之下消滅目標，被稱為繼火藥、核武器之後的「第三次戰場革命」。按照英國簡氏防務信息集團的定義，軍用無人機可視為「初級階段」的機器人士兵，目前已投入大批量實戰部署階段，自從美軍MQ-1「掠奪者」無人機首次空襲阿富汗塔利班後，攻擊型無人機便證明其作為致命武器的價值，使用範圍和頻率迅速增加。美軍無人機戰術吸引了世界的目光，現有86個國家擁有相似無人機，「連恐怖分子也在關注這項技術」。繼無人機之後，地面戰鬥機器人也進入試驗性部署階段，2015年底，敘利亞政府軍和俄軍攜手圍攻拉塔基亞郊外被極端組織盤踞的高地，成為人類第一場以戰鬥機器人為主的攻堅戰。俄軍投入4台履帶式戰鬥機器人、2台輪式戰鬥機器人和至少一架無人機。在遙控指揮下，這些使用機槍和反坦克導彈的機器人衝鋒在前，敘軍士兵則躲在安全距離外打掃戰場。機器人士兵的「不死之軀」和猛烈火力讓敵人毫無還手之力，戰鬥只持續了20分鐘便結束了，約70名極端分子被擊斃，敘軍僅4人受傷。美國《大眾科技》驚呼，「終結者」已走在接管戰場的路上。專家預測，到2040年，參戰美軍會有一半以上是機器人，未來機器人士兵成建制規模化作戰也逐步從科幻電影變成現實。

直接參与戰鬥只是機器人士兵將擔負的任務之一，更多時候，它們還扮演著哨兵、工兵及衛生兵角色。五角大樓稱，數以萬計的地面搖控機器人已在伊拉克戰場進行試驗性部署，並幫助美軍排除、摧毀大量路邊炸彈。美軍發言人從另一個角度承認了機器人士兵的廣泛部署：「多達1000輛無人車輛已在伊拉克和阿富汗被炸毀，但它們挽救了無數生命。」

韓國也是醉心於機器人士兵部署的國家之一。韓國《東亞日報》透露，韓軍已在韓朝「非軍事區」部署了警戒機器人，它配有5.56毫米機槍和40毫米榴彈發射器，發現威脅後會通知指揮中心，由操作手決定是否開火。

圖說：美軍士兵控制地面戰鬥機器人活動

澳大利亞新南威爾士大學教授托比·沃爾什稱，與核武器研發相比，戰鬥機器人研製容易、製造成本低，更適合大批量製造。連軍費捉襟見肘的英國也不甘落後，BAE系統公司已研製出能完全自主運行的「塔拉尼斯」無人機。

威脅不亞於核武器

可以預見，採用人工智慧的未來軍用機器人肯定比今天同類機器人擁有更大自主性和更致命的攻擊性，它們會不會像電影《終結者》描繪的那樣「活」過來甚至發瘋失控呢？1978年9月，日本一家工廠的切割機器人突然「發瘋」，把正在值班的工人當成鋼板切割了，這是歷史上首起機器人殺人事件。自那以後，人們就開始不斷想像機器人失控的可能性。

「如果失控的是擁有致命火力的軍用機器人，那麼後果更不堪設想。」奮進機器人公司的首席執行官希恩·比拉特稱，一切人造物品都會存在缺陷，軍用機器人也不例外。「有朝一日，人類非常有可能因一處小小的疏忽而失去對人工智慧機器人的控制。」

這種擔心讓眾多學者對如火如荼的戰鬥機器人項目提出質疑和擔心。為此，參加2017年人工智慧國際會議的所有專家聯名簽署公開信，呼籲禁止研製不受人工控制的攻擊型戰鬥機器人。

除了擔心軍用機器人失控，更多人認為批量裝備智能型自主武器的危險不亞於核武器擴散。宗教界人士西爾瓦諾·托馬西表示，先進的智能型軍用裝置會「加大富國與窮國之間的權力差距」。我們需要注意，武裝機器人的魅力和它們所產生的力量感，它們的使用可能不再僅限於正當防衛，而是『無所不能』」。《衛報》指出，擁有智能型作戰機器人的國家即使沒有核武器，也會「讓鄰國的不安全感成倍增加」，「最終可能會導致國家間的大規模軍備競賽，甚至爆發武裝衝突」。

更令人擔心的是，戰鬥機器人一旦大批量生產，很可能有「漏網之魚」流入黑市，取代炸彈成為恐怖分子手裡的屠殺工具「他們可以用它實施刺殺、顛覆、叛亂等活動，不顧任何倫理約束，無數平民將因此受到傷害。」全球人工智慧專家在致韓國高級科學技術院的公開信中稱：「這個『潘多拉的盒子』一旦打開，將很難關閉。」

脖上「韁繩」不能松

但無論有多少反對聲音，軍用人工智慧機器人研發已成為不可阻擋的潮流，所以更理性的思考應該是未雨綢繆。《衛報》認為，「目前最好的應對方式是始終握緊勒在機器人脖子上的那根韁繩。」也就是說，無論未來軍用機器人發展到哪一步，人工控制和干預原則都不能放棄，最終做出開火決定的，只能是人類。無人機使用就是很好的例子，今天的無人機可在監視區域有效發現和識別敵對目標，並自動飛往選定地點，使用花樣繁多的武器。但人在決策中的絕對地位始終未變。

圖說：美軍士兵在戰場上裝配戰鬥機器人

隨著軍用人工智慧日益成為作戰行動中的關鍵要素，人們應該對戰爭的道德倫理基礎進行重新分析、審查和檢驗，儘早制定相應的法律法規和技術防護措施。這套法律規則的核心內容是：人類必須居於指揮鏈的最高層級，永遠高於機器；不允許技術建立或修正相關參數指標（包括交戰規則），不允許一架機器向其他機器下達決定人類生死的命令。同時，全球各國還應展開相關討論，就戰時人工智慧的使用達成基本共識並建立相應的法律框架。

另外，專家認為還要強化人員的專業素質。首先要建立人工智慧程序員的專業標準。向人工智慧發布命令看似簡單實際卻異常複雜，必須設定清晰的參數指標，確保人工智慧能得到正確使用，從而大幅減少可能出現的人員傷亡。其次，要督促設計人員把好程序設計決策關，確保「殺傷鏈」處理軟體和編程代碼源頭的安全可靠，並由國家掌控，以防止潛在的網路後門。

本報記者吳健 特約撰稿人辛星

相關鏈接：軍用機器人美俄有優勢

英國《衛報》稱，全球有60多個國家裝備或加緊研製新一代基於人工智慧的軍用機器人，但有資格「執牛耳者」只有美俄。

俄羅斯在地面戰鬥機器人方面技術最為領先，連美國《防務新聞》也承認，「俄軍地面戰鬥機器人技術舉世無雙」。

俄塔社稱，根據《2025年先進軍用機器人技術裝備研發專項綜合計劃》，到2025年，俄軍無人系統在其裝備結構中的佔比將超過30%。

俄羅斯《軍工信使》周刊援引國防部機器人技術裝備科研與試驗中心主任謝爾蓋·波波夫的話報道稱：「俄軍在敘利亞投入使用10餘套地面和海上機器人技術系統，再加上無人機，則有數百套。」

目前，俄羅斯軍事應用人工智慧的重點領域是導彈製造，「基於人工智慧的導彈將根據實際情況自主調整飛行航路、速度和高度，突防能力更強、打擊精度更高」。另外，俄軍工綜合體還在嘗試將人工智慧用於無人機，期盼有朝一日打造出「無人機戰鬥蜂群」。

美國的人工智慧武器研發更是走在前端。伊拉克和阿富汗戰爭期間，美軍至少有10款作戰機器人上陣，除了地面作戰機器人、「無人機蜂群」、智能艦艇等項目外，美軍正致力於使用人工智慧製造新型遠程反艦導彈，以替代從1979年就開始裝備的魚叉導彈。

正是羨慕駐韓美軍所擁有的一系列戰鬥機器人裝備，韓國軍工業才急於仿效。韓國高級科學技術院與韓華公司聯合成立研究中心，推動將人工智慧用于軍事領域，加速戰鬥機器人研發。韓華公司甚至制定了時間表，「目標是在2018年底前完成基於人工智慧的指揮系統、航空訓練系統和跟蹤系統的第一階段研發工作。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！