谷歌停止作惡，與美軍方終止合作

編輯 | 麻粒兒

微信 | ai_xingqiu

網址 | 51aistar.com

谷歌周五在內部會議上作出決定：不再與美國國防部續約Project Maven項目，雙方的合作2019年到期後結束。

Google 終於放棄了與國防部的合作計劃，並表示將對外公布一份關於 AI 的倫理規範，可以說是面向輿論壓力做出了妥協。

合作雖然終止了，但是給谷歌聲譽帶來的影響永遠也不會消除。

然而，谷歌打算建立一個類似「谷歌地球」的監測系統，讓五角大樓的分析師能「點擊建築，查看與之相關的一切」，並為「整個城市」建立車輛、人員、土地特性和大量人群的圖像。

谷歌雲CEO Diane Greene此前因為輿論壓力，在內部開會告訴谷歌員工，合同價值僅900萬美元。財大氣粗的谷歌與美國軍方只簽訂900萬美元的項目合作，想想感覺有點兒欺負大眾智商。

據Gizmodo獲得的內部電子郵件顯示，最初的合同價值至少1500萬美元，預計該項目的預算將增長到高達2.5億美元。這個內部郵件透露的內容才是谷歌雲高層真正的胃口。

據悉，Maven項目的主要是幫助美國國防部有效地處理來自全球各地的海量的視頻資料。美國國防部每天收集到數量龐大的無人機飛行畫面，但人類圖像分析師遠遠跟不上視頻數量的增長。

因此，國防部希望能利用機器學習來識別無人機鏡頭中的車輛和其他物體，從而減輕分析人員的負擔。國防部在自身資源不足的情況下，轉向了學界與業界的人工智慧專家合作。

但是雙方具體合作的內容並沒有對外披露，谷歌內部員工曾施壓，要求谷歌公開具體與軍方的合作內容。一位谷歌辭職員工曾表示，高管們對有爭議的商業決策的態度已經變得不那麼透明了，他們似乎不太願意聽取員工的反對意見。

自2000年以來，不作惡原則一直是谷歌公司的核心行為準則之一；此前在2015年的時候，谷歌重新組建成立新的母公司時，這個口號被修改為「做正確的事」，但仍然保留了「不作惡」原則的重要內容，並依舊將之作為其核心行為準則和價值觀之一。

谷歌促進了一種開放的文化，鼓勵員工挑戰和討論產品決策。但員工們真正向高層呼籲反對的時候，谷歌選擇冷處理。

「谷歌在Maven項目中的相關參與計劃將不可挽回地毀滅谷歌的品牌和它吸納人才的能力。在越來越多的對於人工智慧可能會偏激化和武器化的恐懼中，谷歌在獲取公眾信任方面已經顯得力不從心了。這一協議將會使谷歌的聲譽面臨威脅，並將會使谷歌站在其核心價值觀的對立面。」谷歌的員工在信中寫到。

今年4月初，大約有3000多名谷歌員工簽名，向谷歌現任CEO桑達爾·皮查伊提交了一封信，要求皮查伊立即取消參與Maven項目，並起草公開一份清晰的政策表明：谷歌和它的合作方不會開發用於戰爭的技術。

除了內部員工強烈反對外，外部其他科技大公司從業者也公開反對，也有學者機構對外呼籲發聲。

4月中旬，來自 Google、Amazon、Microsoft 和 IBM 等科技公司的員工發布了一封聯合請願信，聲明稱科技公司不應該參與到與戰爭有關的商業中去，因此 Google 應該中止與美國國防部的合作。

五月中旬左右，國際機器人武器控制委員會（ICRAC）也向佩奇、Pichai、Diane Greene和李飛飛發出了一封公開信，呼籲谷歌退出軍方項目，承諾不開發軍事技術，不收集個人數據用于軍事行動，不參與或支持發展、製造、貿易或使用自主武器；並支持禁止自主武器。截止到目前，已經有 1144 名專家學者在這封公開信上簽名。

谷歌內部也因為該項目爆發了一次小規模辭職潮，有十幾名員工因為這一項目正式向谷歌請辭。

在「不作惡」和「做正確的事」之間，谷歌遇到了道德困境。

谷歌原本有機會在項目合作時就避免事態嚴重化。去年9月份，谷歌內部在討論如何向公眾解釋這個事情時，谷歌雲首席科學家、副總裁李飛飛曾在郵件中強烈建議雙方在合同中迴避「AI」（人工智慧）這個字眼。

李飛飛一直堅持相信的是以人為中心的人工智慧，可以用積極和慈善的方式讓人類受益。她還表示，任何將人工智慧武器化的項目研究，都將違背她的原則。

「武器化人工智慧可能是AI領域裡最敏感的話題，沒有之一。對於媒體而言這簡直就是紅肉（red meat），他們會找到一切方式毀掉谷歌。」李飛飛在郵件中建議道。

「我不知道如果媒體開始谷歌正在秘密建造AI武器或AI技術，並為國防工業服務會發生什麼。」李飛飛說，因此她希望在對外公布合同時，能將項目描繪為是谷歌雲平台的重大勝利。

但是最終對外的結果大家都看到了，並且帶來了一系列的連鎖反應。

輿論雖然是一邊倒的情形，但是還是有位為谷歌站台的人出現。華盛頓大學教授、《終極演算法》作者Pedro Domingos就此公開提出了質疑。

他在Twitter上對Google員工說道：「如果前幾代技術人員都像你們這樣，拒絕國防相關的工作，我們現在就不會有互聯網，也不會有Google。」

有人附議說：其他國家正在高科技領域全速前進，而且沒有道德約束。

關於如何界定技術聯合軍事的爭議一直都存在，新技術並非總能帶來便利，已經有研究人員發出警告，人工智慧技術可能會以不易察覺的方式產生重大偏見。

谷歌一直致力於組織和提高信息的有效性。在互聯網上提供搜索相關的網頁，收集了大量關於用戶行為、活動和興趣的數據。人們確實享受到了谷歌科技帶來的便利，但人們也會擔心谷歌不僅僅是停留在利用這些數據擴大業務造福社會，手握大量全球敏感私人數據的科技公司與國家軍隊的危險聯盟這種事情時刻都有發生的可能。

如果輿論壓力沒有這麼大，如果合作的事情不會被曝光，僅靠企業自身的道德感約束髮展和利益，結局可想而知。對於和平來說，不要小看每個人參與的力量，需謹記：覆巢之下焉有完卵。

z

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！