谷歌將禁止AI用於武器，李飛飛等「反對與軍方合作」事件始末

安妮 編譯整理

量子位 出品 | 公眾號 QbitAI

轟轟烈烈的「谷歌員工抵制與軍方合作」事件即將塵埃落定。最終，還是打出反對牌的谷歌員工贏了。

這件事情並不複雜：谷歌與美國國防部合作開發軍用無人機項目Maven，但谷歌員工認為，這個項目可能會被五角大樓用於無人機殺人，強烈抗議並且呼籲谷歌退出此項目。

直到昨天，這件事又有重大進展曝光出來。

據《紐約時報》報道，谷歌計劃發布新的指導準則，將禁止在軍事武器方面使用人工智慧技術。預計在未來幾周內，將正式發布新準則。

從去年9月到昨天，在這長達8個月的內部反抗史里，多位關鍵人物曾預測、推動了事件的發展，包括谷歌雲首席科學家李飛飛。

量子位試圖還原整個「抵制軍方項目抗爭史」的發展始末。

事件初始：李飛飛的擔憂

去年9月，當緊張的谷歌高層討論如何對外公布這個與五角大樓的AI合作契約時，李飛飛開始擔憂此事可能製造一場騷亂，強烈建議迴避「AI」這個詞。

據《紐約時報》報道，李飛飛曾給同事的郵件中寫道：「AI武器可能是AI技術中最敏感的話題之一，媒體可能會對此大做文章，從而對谷歌風評不利。」

對於AI用于軍事目的，李飛飛本人並不贊同。「我相信以人為中心的AI能以積極和慈善的方式讓人類受益，任何AI武器項目都違背我的原則。」

谷歌雲首席科學家李飛飛

李飛飛的擔憂不是沒有道理。

在與國防部合作的Maven項目中，需要用機器學習處理無人機收集的動態視頻數據，甚至可能會被用於殺人目的。還有知情人士透露谷歌還在幫助國防部配置軟體。

對一向以「不作惡」為信條的谷歌來說，員工可能會認為這場合作會導致人才流失，並且與谷歌核心價值觀不符。

此時，高層已經有一些反對的聲音，比如谷歌DeepMind的一名高管就明確表示反對谷歌參與軍事項目和監督任務，並對與國防部的合作提出了抗議。DeepMind的態度並不讓人意外，在被谷歌收購時，雙方就曾在協議中指出，DeepMind的技術將永遠不會被用于軍事或監控用途。

這個階段，谷歌還沒對外公布Maven項目，只有內部一些高管了解此事。

衝突加劇：員工抗議

消息是從谷歌內部的交流平台泄露的，李飛飛擔憂的事情也終於發生了。

3月，谷歌內部3000多名員工聯名上書，抵制谷歌與五角大樓的合作。

4月，事件進一步發酵，包括Bengio等上百名學者、科學家二次上書，數十名員工因此離職，要求谷歌推出Maven項目，並且起草政策聲明谷歌永遠不會開發戰爭技術。

聯名上書反對的部分學者名單

矽谷巨頭谷歌與美國政府之間的文化衝突愈演愈烈。

谷歌高層不淡定了。

在本月最新修改的行為準則中，谷歌悄悄將「不作惡「原則調整到了最後。

900萬美元

從3月爆發到5月修改準則之間，有個小插曲。

在以谷歌員工及學者為代表的反對派和以谷歌部分高管為代表的支持派僵持不下時，李飛飛的領導、谷歌雲CEO Diane Greene出面了。

《紐約時報》報道，Greene表示，這個項目沒有殺人目的，並且規模很小，交易金額僅為900萬美元。

外媒Defense One曾有過報道，去年，美國國防部對Maven預算的資金規模為7000萬美元，谷歌手持的900萬佔比12.8%。谷歌2017年財報顯示，去年，谷歌總營收為319.14億美元，單看交易金額，Maven只佔去年穀歌營收的0.28%。

Greene的澄清並沒有止住谷歌群眾的憤怒，在4月11日，谷歌內部為此進行了一場討論，小組成員包括反對派的谷歌AI研究員Meredith Whittaker，以及支持派的谷歌副總裁Vint Cerf。

這一天的辯論總共進行了三場，谷歌內部的員工都能夠在線觀看。

「革命勝利」

「勝利」來的有點突然。

在上周四的全員會議上，谷歌CEO劈柴（Pichai）表示，將會提出新的「經得住時間考驗」的準則，作為谷歌在國防和情報承包等事項的行動指南。

《紐約時報》稱，這項準則會限制人工智慧在武器中的應用。

至此，「反對派」的谷歌員工終於能鬆口氣了。

現在回看，谷歌內部的研究人員很多來自學術界，在學術界，反對軍事項目的聲音一直存在。

比如，深度學習的大牛Geoff Hinton曾公開不願意為美國政府效勞，離開美國去加拿大的部分原因是也是不願從美國國防部獲得資金。

再比如谷歌大牛Jeff Dean，在本月一次會議上已經表示，他已經簽署了反對使用機器學習自動武器的公開信。

事已至此，結局基本已定。

谷歌將制定禁止將AI用于軍事化武器的新準則，只是，這家矽谷巨頭和美國政府之間的文化衝突，依舊劇烈。

作者系網易新聞·網易號「各有態度」簽約作者

—完—

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復「招聘」兩個字。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！