Bengio等400名學者上書抵制谷歌與軍方合作，數名員工因此離職

安妮 編譯整理

量子位 出品 | 公眾號 QbitAI

今早，谷歌內部上演了一場年度抗爭大戲。

400多名AI、倫理學和計算機科學學者聯名，向Alphabet CEO佩奇、谷歌CEO劈柴、谷歌雲CEO Diane Greene和AI/ML首席科學家李飛飛4位高層上書。

這是為何？

公開信中，大家明確要求谷歌結束與五角大樓合作的軍用無人機項目Maven，呼籲禁止自主武器系統的國際條約。

此外，還有十幾名員工因為Maven項目不滿，繼而憤憤離職。

谷歌內部員工情緒空前高漲，反對谷歌參與軍事項目的呼聲到達新頂峰。

「400+3100」

從谷歌與美國國防部簽訂Maven項目開始，員工的不滿其實已經發酵了三個月。

這份合作條約中表示，谷歌將負責加快軍方人工智慧技術發展的速度，將AI、機器學習等方法用到國防領域。

Maven首個研究方向，就是用機器自動處理MQ-9和MQ-19無人機上感測器收集的動態視頻數據，通過TensorFlow的API幫助軍方自動識別圖像物體，知情人士透露谷歌還在幫助國防部配置軟體。

從谷歌員工的角度看，這次合作好像完全變了味。

與國防部合作，開發「幫美國政府進行軍事監控、甚至還有可能奪取生命的技術」，完全違背公司的核心價值，還可能威脅到Google的名譽，人才和客戶都會因此疏遠。

事後，雖然谷歌也解釋自己扮演的角色是「非攻擊性的」，五角大樓也聲明不會用谷歌的技術開發無人自動化武器系統，但是……這個聲明一點都沒用。

3100名員工聯名上書，秉著「不認可、不理解、不接受」的態度要求谷歌立刻退出Maven項目，並起草政策聲明谷歌及其承包商都永遠不會開發戰爭技術。

然而一個多月過去了，這份上書好像並沒有起到什麼作用。

學者的公開信

不滿還在持續膨脹，截止到今天下午5點，已經有400多名學者再次上書要求停止項目，其中還包括深度學習大牛Yoshua Bengio。

部分上書學者名單

公開信的開頭這樣寫著——

作為學者、教授和開發信息技術的研究人員，我們和3100多名谷歌員工及其他反對Google參與Maven項目的技術人員聯名上書。

我們全力支持谷歌終止與國防部的合同，並且谷歌及母公司Alphabet承諾不開發軍事技術，也不將收集的個人數據用于軍事目的。

我們還敦促谷歌和Alphabet的高管聯合其他人工智慧和機器人技術研究人員和技術高管，簽署一項禁止自主武器系統的國際條約。

Yoshua Bengio

公開信中表示，谷歌的產品收集了大量用戶行為、活動和興趣數據，有責任用數據擴大業務、造福社會。

而Maven目的是利用機器學習來分析大量的無人機監控錄像，據《Defense One》報道，美國已經在「中東」進行了初步試驗，計劃在明年擴展成「一個可以俯瞰整個城鎮的複雜高科技系列相機」。這種行為，恐怕已經牽涉到針對性的殺人行為。

谷歌的技術將成為自動目標識別和自動武器系統的基礎。目前，國防部已經計劃在無人機上安裝圖像分析技術，離授權無人機殺人只有一步之遙。而之前劍橋分析公司的醜聞表明，公眾越來越擔心科技行業將擁有如此大的權力，與國防部合作恐怕對自己不利。

上書已送達，至於谷歌官方如何回應，還得聽下回分解~

作者系網易新聞·網易號「各有態度」簽約作者

—完—

加入社群

量子位AI社群16群開始招募啦，歡迎對AI感興趣的同學，加小助手微信qbitbot6入群；

此外，量子位專業細分群(自動駕駛、CV、NLP、機器學習等)正在招募，面向正在從事相關領域的工程師及研究人員。

進群請加小助手微信號qbitbot6，並務必備註相應群的關鍵詞~通過審核後我們將邀請進群。（專業群審核較嚴，敬請諒解）

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復「招聘」兩個字。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！