馬斯克參加反對AI武器宣言，全球2400名研究者共同簽名

大數據文摘出品

在2018年7月18日召開的斯德哥爾摩IJCAI上，馬斯克和一個成立僅三年的組織「未來生命研究所」再一次被推上輿論的風口浪尖。

2000多名AI學者以及科學家共同在會上簽署《致命性自主武器宣言》，誓言絕不將他們的技能用於開發自主殺人武器。

這次行動由未來生命研究所的聯合創始人，MIT物理學終身教授邁克斯·泰格馬克發起，包含Deepmind、歐洲人工智慧協會等來自160家AI相關組織和企業，以及丹尼斯·哈薩比斯、斯圖爾特·羅素、埃隆·馬斯克等來自60個國家的2400位企業家、科學家、研究者共同簽署。

源報道：

https://futureoflife.org/2018/07/18/ai-companies-researchers-engineers-scientists-entrepreneurs-and-others-sign-pledge-promising-not-to-develop-lethal-autonomous-weapons/

宣言核心訴求：絕不將人類生命權交給機器，避免軍備競賽

這份宣言旨在禁止參與和支持致命性自主武器的開發、製造、交易和使用。

致命性自主武器系統（Lethal autonomous weapon systems）簡稱「LAWS」。學界聯合抵制LAWS已經不是首次。今年早些時候，3100 名的谷歌員工聯署發信，要求退出 Maven 計劃。

而在5月份，韓國KAIST大學因與軍方合作開發LAWS研究項目，遭到全球50位頂級人工智慧研究者抵制。抵制活動發起人、南威爾士大學教授Toby Walsh也在本次會上作了發言：「我們不能把誰生誰死的決定權交給機器。因為它不具備這樣的道德。」

而本次宣言發起人泰格馬克在發言中這樣說道：「我很高興看到人工智慧的領軍人物從對話轉向行動，實施一項政治家們迄今未能實施的政策。

人工智慧有巨大的幫助世界的潛力——如果我們不能容忍其濫用，並致力於防止其濫用。自主殺人的AI武器就像生化武器一樣令人厭惡和不安，我們應該以對待生化武器的方式來處理自主武器」。

一向對AI抱持審慎態度的馬斯克參與其中則是毫無意外的事情。在矽谷，他怒懟過扎克伯格、拉里·佩奇等人對人工智慧過分的樂觀自信。年初，在他出演的記錄片《你相信這台電腦嗎？》更是警告，稍有不慎，AI將成為人類「永生的獨裁者」。

宣言在最後部分號召所有的參加者，應當呼籲政府和領導，建立嚴格的國際公約以及政策和法規，抵制自動武器。所有的技術企業和組織，以及領導人和政策制定者，乃至其他行業領袖，都應加入到這次宣言當中。下一次聯合國關於致命性自主武器系統的大會將於8月召開，本次宣言是否能夠推動國際社會更加嚴肅的關注，我們拭目以待。

宣言原文：

https://futureoflife.org/lethal-autonomous-weapons-pledge/

本書中文版由湛廬文化/浙江教育出版社出版

我們為何應當抵制AI武器？

在泰格馬克教授的新書《生命3.0》中，他談到自己對武器問題的關鍵看法：

自動化武器能在無人干涉的情況下選擇和襲擊目標。這些武器可能包括4軸飛行器，它們能夠搜索和殺死滿足某些預定標準的人。不過，這些武器中不包括導彈或遙控無人機，因為它們的目標決策都是由人類做出的。人工智慧技術已經到達了一個臨界點，過不了幾年，就可能出現實際可行的系統部署，儘管這不一定合法。不用等到幾十年後，自動化武器就會帶來很大的風險：繼火藥和核武器之後，它被認為是第三次武器革命。

對自動化武器，有人支持，也有人反對。比如，有人提出，用機器來替代人類士兵可以降低傷亡人數，但也會降低發動戰爭的門檻。人類今天面臨的一個重要問題是，是展開一場全球人工智慧軍備競賽，還是努力阻止它發生？

只要任意一個主要軍事力量推動人工智慧武器開發，那全球軍備競賽幾乎是不可避免的，而這場技術進步的終點是顯而易見的，那就是：自動化武器會成為明天的AK突擊步槍。

與核武器不同，它們不需要昂貴或稀有的原材料，因此，它們會變得無處不在，並且價格便宜，能夠被所有主要軍事力量大規模生產。那麼，自動化武器早晚都會出現在黑市、恐怖分子、意欲控制人民的獨裁者、想要種族清洗的軍閥等人的手中。自動化武器是刺殺、顛覆政權、制伏人群或選擇性地殺死某個種族的理想工具。

因此，我們相信，人工智慧軍備競賽對人類無益。人工智慧有許多方式可以在無須創造出新型殺人工具的情況下，使戰場對人類（特別是平民）而言變得更加安全。

正如化學家和生物學家沒興趣開發生化武器一樣，大多數人工智慧研究者也沒有興趣開發人工智慧武器，也不希望其他人用這種研究來玷污這個領域。因為這會激起公眾對人工智慧的反對，從而限制人工智慧未來可能為社會帶來的裨益。

實際上，化學家和生物學家廣泛支持那些阻止生化武器研究的國際條約，而這些條約都非常成功；無獨有偶，大多數物理學家也都支持那些禁止太空核武器和致盲激光武器研發的條約。

值得慶幸的是，泰格馬克發起的「AI有益運動」正在以星火燎原之勢，引發學界、企業界、政府乃至聯合國的高度關注。

未來生命研究所

2015年，這家組織由邁克斯·泰格馬克創辦，成立一年後獲得馬斯克1千萬美元捐贈，得到了包括偉大的物理學家霍金以及亞馬遜、谷歌、Facebook、微軟、IBM等企業的支持。這家組織致力於推動和促進人工智慧等人類「關鍵」技術的安全、倫理及社會層面研究。

未來生命研究所官方網站：https://futureoflife.org/

目前，該機構已經募集資金超過1億美元，匯聚了8000多位全世界頂級的人工智慧專家，成功地讓「人工智慧安全性」研究迅速在全世界成為了一場轟轟烈烈的運動。

由未來生命研究所主辦的阿西洛馬大會的合影，也是AI有益運動的「群英譜」。你可以在裡面找到拉里·佩奇、埃里克?施密特這些企業家，吳恩達、丹米斯?哈薩比斯這樣的技術專家，以及丹尼爾·卡尼曼這樣的來自心理學、經濟學、社會學方面的頂級專家。DeepMind、谷歌、Facebook、蘋果、IBM、微軟和百度等公司的代表悉數到場。

關於AI如何有益人類這一話題，應當有公眾更加積極和廣泛的參與，並作出思考與選擇，我們已經站在了歷史一個新的十字路口上。

【今日機器學習概念】

Have a Great Definition

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！