自主智能武器 這個殺手有點冷
喜歡此文，歡迎轉發和點贊，轉載請註明作者「新軟體」
還記得著名法國導演呂克·貝松編劇及執導創作的那部著名電影《這個殺手不太冷》嗎？影片雖然是一部圍繞殺手展開的故事，但其中反應的人性之善卻讓人看下來倍感溫暖感動。
而最近，一則有關「機器殺手」的新聞卻讓人不寒而慄：韓國科學技術院與韓國十大財團之一韓華集團旗下韓華系統公司合作，於今年2月開設人工智慧研發中心，目的是研發適用於作戰指揮、目標追蹤和無人水下交通等領域的人工智慧技術。
對此，由澳大利亞新南威爾士大學人工智慧教授托比·沃爾什發起，美國和日本等30個國家和地區的超過50名人工智慧研究人員於4日簽署一封公開信，敦促韓國科學技術院停止人工智慧武器研發，警告謹防「機器人殺手」。
自主智能武器不符合主流人工智慧研究
這些研究人員說，將拒絕訪問韓國科學技術院、接待對方訪客或與對方合作研究項目，直至這所韓國頂尖大學承諾放棄研發缺少「有效人工控制」的武器。聯名信寫道：「自動武器一旦成熟，戰爭發展速度和規模將前所未有。它們可能會被恐怖分子利用。」
事實上，在此前就有相關的專家一起對機器人所帶來的危險做出了全面的報道，在機器人優先順序上和相關使用上的影響，還有機器人在面對有害人物的預見和主動聯繫開發者等。目前世界對自動化系統愈發的依賴，從智能家居到無人駕駛汽車，人工智慧正在顛覆整個世界，而在軍事領域的機器人武器更加讓人擔憂。假如有人製造出惡意的機器人系統，那麼其帶來的威脅將會非常巨大，災難性不可想像。
自主武器從倫理到理論上均不符合主流人工智慧研究，發起聯名抵制的人工智慧教授表示，機器人和人工智慧技術實際可以在軍事領域發揮有利作用，比如完成掃雷等威脅人類安全的任務。但不能將決定生死的權力交給機器，這就越過道德底線。
大家反對 「autonomous weapons lacking meaningful human control」，即缺乏起碼的人類控制的自主武器。「請注意』自主』，這和一般意義上的智能武器已經不是同一個概念。」
來自中國的人工智慧專家周志華曾針對此在媒體上發表看法，他認為一般的智能武器，或者叫「智能化武器」，其實早就有了，例如自動瞄準裝置、導彈定位系統等等，但是最終做決定的都是人類。而自主武器，是要把這個「決定權」交給機器，讓機器自己去決定是否進行對人類的毀滅性打擊，這太危險了。
如果打開了這個潘多拉魔盒，將很難關閉。與過去禁用其他技術，例如禁用激光致盲武器（blinding lasers）一樣，我們可以簡單地決定不開發自主武器。我們敦促KAIST遵循這樣的共識，致力於改善人們的生活，而不是傷害人的生命。
人工智慧應用于軍事領域 邊界模糊
早在2017年，美軍的一項無人機項目使用谷歌的人工智慧技術，引起該公司內外的激烈辯論。美國防部批准立項的Maven項目（Project Maven）計劃使用機器學習和人工智慧技術來協助分析由無人機拍攝的海量影像資料。據了解，Maven項目是美國防部在人工智慧和數據處理方面74億美元預算中的一部分，並與相關領域內的學者和專家在五角大樓層面保持合作關係。
谷歌公司表示：「機器學習在軍事領域的應用自然會引發各種各樣的合理擔憂，我們正在公司內部和外部積極討論這一重要話題，與此同時我們將繼續圍繞機器學習技術的開發和使用展開相關政策和保護措施的研究工作。」
不過，據英國《每日郵報》4月5日報道，超過3100名谷歌員工簽署了一份請願書，反對谷歌參與五角大樓人工智慧試點項目Project Maven。信是寫給谷歌 CEO Sundar Pichai 的。抗議員工們在信中寫道：「我們認為谷歌不應捲入戰爭。」信中要求Pichai立即宣布穀歌撤出五角大樓的試點項目 Project Maven，並宣布永遠不會「發展戰爭技術」。上個月透露，谷歌允許五角大樓利用人工智慧技術解讀視頻圖像。谷歌員工從一開始就對這個項目感到抵觸，現在通過發表公開信進一步作出反對。
Project Maven項目涉及使用谷歌的人工智慧軟體分析航拍監控視頻，以查找可幫助軍事情報分析人員的模式。該項目在去年4月開始，其中包括學術機構和Nvidia在內的科技公司的參與。谷歌當時表示，其TensorFlow軟體將用於「非攻擊性用途」，即協助對未分類數據進行對象識別。谷歌雲首席執行官Diane Greene告訴員工，該技術不會「操作或飛行無人駕駛飛機」，「不會用來發射武器」。
人們的擔憂是很有必要的，因為在軍事領域，人工智慧應用的範圍和邊界都顯得有些模糊，這讓人不得不恐懼，不可控的人工智慧武器會給人類帶來危險。
TAG:新軟體 |