Google內部掀起風波，員工抗議與軍方合作有關人工智慧的項目

AiTechYun

編輯：chux

為了贏得雲計算業務，Google開始投入戰爭業務。一些工作人員擔心這是朝自動殺人機器邁出的第一步。

去年7月，13名美國軍事指揮官和技術高管在距離Google總部兩英里的五角大樓矽谷前哨會見。這是在2016年成立的諮詢委員會的第二次會議，就如何將技術應用於戰場向軍方提供諮詢。Google副總裁Milo Medin將談話轉向在戰爭遊戲中使用人工智慧。

幾個月後，國防部聘請Google的雲部門負責Maven項目的工作，這是一項大力加強其監控無人機的技術，幫助機器思考。

近4000名Google員工簽署了一封信函，要求Google首席執行官Sundar Pichai拒絕簽署Maven項目合同，並停止「戰爭行業」的所有工作。

請願書引用了Google避免軍事工作的歷史和著名的「不要做惡」的口號。Alphabet的AI研究實驗室之一甚至已經遠離了該項目。反對這項交易的員工認為，它是朝向殺人機器人邁出的第一步。Gizmodo在周一報道中稱，大約有十幾名員工辭職，以此抗議公司繼續參與Maven項目的活動。

知情人士表示，Pichai和他的副手正在起草道德原則，以指導Google強大的人工智慧技術的部署，這將影響其未來的工作。Google是爭奪五角大樓雲計算合同價值至少100億美元的幾家公司之一。Google發言人拒絕透露是否因軍事工作內部紛爭而改變。

Pichai面臨的挑戰是如何找到一種調和Google的主和派。Google花費了十多年的時間來發展業界最強大的人工智慧研究和能力，並熱衷於將這些進步與其快速發展的雲計算業務聯繫在一起。競爭對手急於與政府達成交易，而政府每年在雲計算上花費數十億美元。Medin和Alphabet總裁施密特都曾在五角大樓的國防創新委員會工作，這促使Google與政府在反恐，網路安全，電信等領域展開合作。

為了支配雲業務，並實現Pichai成為「AI為優先的公司」的夢想，Google可能很難避免戰爭。

在公司內部，Google雲計算公司首席Diane Greene是與政府合作的倡導者。在3月的一次採訪中，她捍衛了五角大樓的合作關係，並稱將Maven項目描述為一個轉折點是錯誤的。「Google長期與政府合作。」

五角大樓在大約一年前創建了Maven項目來分析監控數據堆。Greene說，她的部門只贏得了合同中的一小部分，而沒有提供具體細節。她描述了Google在良性方面的作用：掃描地雷的無人機鏡頭，然後將其標記給軍事人員。Google稱，該軟體不用於識別目標或做出任何攻擊性決定。

許多員工認為她的理性化說法不具說服力。即使AI團隊的成員也表示反對，他們擔心與五角大樓合作會損害與消費者的關係以及Google招聘的能力。

Google員工在戰爭中使用人工智慧的不適感長期存在。AI總裁Jeff Dean在I / O會議上透露，他在2015年簽署了一封公開信，反對在自主武器中使用AI。Dean說，向軍方提供具有AI功能的Gmail並不錯，但在其他情況下它變得更加複雜。去年，包括負責Alphabet的DeepMind AI實驗室的Demis Hassabis和Mustafa Suleyman以及著名的人工智慧研究員Geoffrey Hinton在內的幾位高管簽署了一封致聯合國的信函，概述他們的擔憂。

信中寫道：「致命的自主武器……將使武裝衝突能夠以比以往任何時候擴大，並且速度比人類更快，畢竟人類無法長時間持續行動。」據熟悉該決定的人士透露，位於倫敦的DeepMind向員工保證不會參與Maven項目。DeepMind女發言人拒絕發表評論。

人工智慧的軍事系統已經犯過錯誤。數字權利基金會（Digital Rights Foundation）主任Nighat Dad引用兩名半島電視台記者的案例，他們提起了法律上的投訴，稱他們被美國政府的天網監視系統錯誤地置於無人機「殺人名單」中。Dad在4月份向Pichai發了一封信，要求Google終止Maven項目的合同，但表示她還沒有收到回復。

一些AI專家主要關注的是現有技術仍然不可靠，並且可能被黑客入侵，改變戰場決策。紐約大學AI研究員Gary Marcus說：「我不會信任用軟體來做關鍵任務的決定。Maven項目屬於道德「灰色地帶，因為公眾並不知道軟體將如何使用。如果Google希望從事為軍隊做分類的事情，那麼公眾有權關心Google會成為什麼樣的公司，」Google的雲部門沒有通過分類項目的認證。Google發言人拒絕透露該公司是否會獲得該認證。

多年來，Google通常會退出其收購的公司的政府合同。2011年，面部識別初創公司匹茲堡模式識別系統收入679,910美元。第二年，Google從美國政府的收入就低於此數。（這些數字不包括軍方對Google廣告的支出，這些數字是機密的，可能每年大概有數百萬美元。）機器人製造商波士頓動力公司在2013年末被Google收購之前，已經產生了超過1.5億美元的聯邦合同，明年合同結束。Google 同意在2017年出售 Boston Dynamics。

自從2015年被聘到運營雲部門以來，Google對政府工作的關注就減輕了不少。去年，聯邦機構花費超過60億美元購買未分類的雲合同。其中約三分之一來自國防部。目前Amazon Microsoft和Oracle是大玩家。自2014年以來，僅亞馬遜的雲業務就與中央情報局合作，處理了6億美元的分類工作。

Greene決心競爭這樣的合同。「研究者將與政府合作，因為政府需要大量的數字技術，」她在3月份的採訪中說。4月2日，Maven項目收到了額外的政府撥款。軍方官員已經把這個計劃作為減少耗時任務和提高戰爭效率的關鍵手段。

國防部長詹姆斯馬蒂斯8月份訪問Google，並會見了Pichai，Greene和聯合創始人謝爾蓋布林。他們討論了公司的雲計算和人工智慧方面的進展以及其他機遇，例如尋找新的方式來共享軍方擁有的電信頻譜，這是另一個Google項目（Schmidt在12月辭去Alphabet的主席職務，他被排除在Google與五角大樓工作的決策之外。7月份國防創新委員會的會議記錄在網上公開）。

但公司內部的鴻溝依然存在。反對項目Maven請願書是該公司歷史上最大的一個，它以鼓勵內部辯論而聞名。Gizmodo首先報道了Google員工對該公司參與的擔憂。Pichai已經與員工解決了這個問題，但尚未回應他們取消合同的要求。

Google首席執行官在I / O會議上沒有提到軍事交易。幾位高管私下說，他們信任Pichaik能做出適當的決定。這筆交易也沒有出現在人工智慧大會上。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！