深度—馬斯克等專家呼籲禁止開發「殺人機器人」！為什麼？

當地時間8月20日，包括特斯拉CEO馬斯克（Elon Musck）和谷歌Deep Mind聯合創始人蘇萊曼（Mustafa Suleyman）在內的116名AI界專家，發布公開信呼籲全面禁止自動化武器。他們將自動化武器稱作「殺人機器人」，但在其他人的眼裡，自動化武器是新一代的高級軍備力量。人工智慧不斷發展的當下，自動化武器真的會展現其可怕的一面嗎？

自動化武器的殺傷力到底有多大？

馬斯克等眾多專家都出面後，自動化武器的問題終於又一次引發了討論。自動化武器，作為軍備力量，對於將投入使用的國家來說，可以節省士兵資源，避免人類士兵的傷亡。但馬斯克等專家的擔憂在於自動化武器可能遭到濫用，將會對人類生命安全產生威脅。聯合國人權理事會特別調查員海因斯（Christof Heyns）早前曾表示，戰場上局勢複雜，不能確保自動化武器信息傳遞及時與否；據其調查結果顯示美國無人機在打擊恐怖分子時曾出現誤傷平民的情況。

同時馬斯克等專家也擔心國家間自動化武器軍備力量的惡性競爭，將導致繼火藥、核武器之後的「第三次革命」。早在2012年國際組織人權觀察站（Human Rights Watch）便公布了一份具有致命性殺傷力的自動化武器清單，時至今日也有多國已進入自動化武器的開發進程：

1.韓國哨兵機器人

韓國三星集團研發的SGR-A1哨兵機器人被部署在三八線附近，雖然SGR-A1與3歲小孩的個頭相當，但其擁有自主射擊的能力。該哨兵機器人的設置主要是為了打擊非法入侵者，它可以通過內置的攝像頭及運動感測器等進行工作，且可以追蹤多個目標。據說，該機器人一旦檢測到闖入者，則會向人類管理員彙報，由管理員決定是否將闖入者射殺。

2.英國雷神無人機

由英國航太系統公司開發的雷神無人機（BAE Systems Taranis）擁有充分的自主權，能夠攜帶空對空及空對地彈藥，具有遠程攻擊能力。因其獨特的設計，該架無人機還具有「隱身」功能，大大降低了被敵軍雷達偵測到的可能。2013年該架無人機進行了首次試飛，預計將在2030年投入使用，並且很有可能替代「狂風」（Tornado）GR4戰鬥機。

3.俄羅斯多功能無人戰車

美俄等國近期更著重於研發既可遠程控制也可以自主操作的地面作戰用途機器人。這些項目包括俄羅斯的「天王星-9」（Uran-9）多功能無人戰車，主要用於對步兵班組的火力支援。「天王星-9」可裝30毫米炮與反坦克導彈，導彈射程估計在8千米左右，可以消滅坦克或低空直升機。

4.美國無人駕駛軍艦

美國國防部高級研究計劃局（DARPA）主導研發的無人駕駛軍艦「海上獵人」（Sea Hunter），2016年已進行了海上測試。「海上獵人」主要擔當反潛任務，在執行任務時，這種無人船一旦發現敵方潛艇，便可持續跟蹤，並通過衛星向附近的水面艦船發射潛艇的實時坐標，以引導打擊行動。

自動化武器如何使用，政策並不能說清

除了許多國家在研發自動化武器，Rytheon、Dassault、MiG等公司已經掌握或正在開發自動化武器的相關技術。自動化武器的殺傷力如此大，且很有可能被恐怖分子所利用，因此專家的擔憂並不是沒有道理，但頒布相關使用政策的國家卻很少。2012年，美國國防部曾發布關於自動化武器的使用政策，但這項政策界限較為模糊，沒有明確定義哪種行動是不被允許的，若自動化武器發出致命性行動，這是否會被禁止我們不得而知。

馬斯克等專家此次發布的公開信也表示，希望聯合國將自動化武器加入到《特定常規武器公約》中。該公約旨在限制在戰爭中使用某些被認為具有過分傷害力或濫殺濫傷作用的常規武器，包括地雷、致盲性武器等。美國軍事評論網則表示，伴隨著人工智慧的發展，自動化武器的出現不可避免，但可以禁止「一旦發射就無法召回、任務不能終止的完全自動化武器」。

最終背「鍋」的還是人類管理員

1944年，著名科幻大師阿西莫夫（Isaac Asimov）在科幻小說《環舞》（Runaroud）中，首次提出了「機器人三大法則」，其中第一條就是「機器人不得傷害人類」，但近些年機器人是否會「背叛」人類的話題不絕於耳。

2015年，在同樣的商討禁止發展「殺人機器人」的會議上，英國公開反對禁止發展「殺人機器人」，其原因是英國研發的自動化武器均是有人類監控的。《衛報》對此也表示，機器人凌駕於道德之上，只是在進行著系統工作，最終控制系統的還是人類。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！