谷歌十餘名工程師辭職，抗議公司為美軍開發AI技術

5月15日據Gizmodo報道，3個月前，谷歌被曝決定為有爭議的美國國防部軍事試驗項目Project Maven提供人工智慧（AI）支持，該項目旨在通過自動對物體和人的圖像進行分類，來加速對無人機拍到視頻的分析。

不少員工表示抗議，當時有多大3000名谷歌員工簽向谷歌現任CEO桑達爾·皮查伊（Sundar Pichai）提交了一封信，要求皮查伊立即取消參與Maven項目，並起草並公開一份清晰的政策表明：谷歌和它的合作方不會開發用於戰爭的技術。

「谷歌在Maven項目中的相關參與計劃將不可挽回地毀滅谷歌的品牌和它吸納人才的能力。在越來越多的對於人工智慧可能會偏激化和武器化的恐懼中，谷歌在獲取公眾信任方面已經顯得力不從心了。這一協議將會使谷歌的聲譽面臨威脅，並將會使谷歌站在其核心價值觀的對立面。」谷歌的員工在信中寫到。

不過，這封信在谷歌內部並沒有起到作用。現在已經有十多名谷歌員工辭職，以抗議公司繼續參與Project Maven。

谷歌員工：沒有人重視我們的聲音

辭職員工的情緒十分沮喪，他們特別擔心AI被用於無人機戰爭中，同時擔心谷歌的政治決策，這些行動可能導致用戶的信任受到侵蝕。那些辭職的員工表示，高管們對有爭議的商業決策已經不那麼透明了，「過去幾個月中，沒有人願意傾聽我們的聲音，我們沒有得到滿意的答覆。」。

在Project Maven的例子中，谷歌正在幫助國防部實現機器學習，將無人機收集的圖像進行分類。但有些員工認為，人類而非演算法應該對這種敏感和潛在的致命工作負責，而谷歌不應該參與軍事項目。

從歷史上看，谷歌奉行開放的企業文化，鼓勵員工挑戰和討論產品決策。但許多員工認為，他們的上司不再關注他們的擔憂，而是讓他們直接面對後果。一位辭職員工表示：「在過去的幾個月里，我對人們的反應以及人們對自己正受到的關注和傾聽的擔憂越來越淡然。」

2015年，員工和用戶都成功地挑戰了谷歌禁止在博客上發布露骨內容的禁令，但這是谷歌員工首次為抗議公司業務決定而大規模辭職。

然而，越來越多的員工壓力似乎沒有影響谷歌的決定，該公司不僅繼續為其行為辯護，甚至還在爭取參加美國國防部另一個重要雲計算項目——聯合企業國防基礎設施（JEDI），該項目目前正在招標。員工們要求谷歌結束其國防部合同的要求，也因谷歌聲稱只向Project Maven提供開源軟體而變得更加複雜，這意味著即使谷歌不接受付款或提供技術援助，軍方仍然能夠使用該技術。

谷歌原董事長施密特曾明確表示不與軍方合作

辭職的員工認為，谷歌在Project Maven的工作與公司「不作惡」信條不一致。谷歌官方發言人強調「這一技術不會用於攻擊中，AI 用于軍事領域可能會引起人們的擔心，谷歌內部也對這一話題進行過討論，AI 將只會被用於非保密圖像的分析中，並且還會制定一系列圍繞機器學習和人工智慧的安全保障措施。」

但是在國防部無人機項目中使用AI，仍然會給技術工作者和研究機器學習領域的學者們帶來複雜的倫理和道德問題。除了在谷歌內部的請願活動外，Tech Workers Coalition特在4月份發起了一項請願，要求谷歌放棄Project Maven合同，科技公司（包括IBM、微軟和亞馬遜）應拒絕與美國國防部合作。

谷歌母公司Alphabet原董事長的埃里克·施密特（Eric Schmidt）曾在一次談話中說到科技圈與軍方合作關係的擔憂。

施密特表示，「技術社區普遍擔心軍事和工業結合體，會被作為不正當殺人利器，」同樣也是國防創新委員會成員的他補充說，「我不會在軍隊內部提供Alphabet的東西。」

但谷歌公司在Maven項目中的態度，讓谷歌的員工產生了懷疑。他們從一開始的憤怒，逐漸轉為失望。

越來越多學者加入對谷歌的聲討

在學界，也有越來越多的人加入對谷歌的聲討中。5月15日，國際機器人武器控制委員會（ICRAC）聯合90多名人工智慧、倫理學和計算機科學領域的學者，向谷歌母公司Alphabet的CEO拉里·佩奇、谷歌現任CEO桑達爾·皮查伊、谷歌雲CEO黛安·格林、谷歌雲首席科學家、副總裁李飛飛發出了一封公開信，呼籲谷歌結束其對Project Maven的支持，轉而支持禁止自主武器系統的國際條約。

這封信的兩位作者彼得·阿薩羅（Peter Asaro）和露西·蘇希曼（Lucy Suchman）曾在聯合國就自動武器問題作證，第三位作者Lilly Irani是一位科學教授、前谷歌員工。

值得一提的是，目前已有364名專家和學者在這封信上簽名，簽名數量也在不斷地增加。

蘇希曼在文中表示，谷歌對Project Maven的貢獻可以加速全自動武器的開發。雖然谷歌總部位於美國，但它有義務保護全球用戶群，而不是與任何一個國家的軍隊結盟。谷歌的高管們正在為參加Project Maven辯護，包括Google Cloud業務主管黛安·格林(Diane Greene)，她曾多次力挺這個項目。

不過這個時候用「螳臂當車」來形容這些抗議或許更合適一些，因為據美國國防部的公開數據，已經有多達100家公司參與到了 Maven 項目之中，因為 Maven 不僅會用於無人機的視頻分析，未來還會拓展到所有視頻監控類的數據分析中，以打擊恐怖活動。

大家覺得，參與這種軍事項目，究竟是「作惡」，還是「保衛和平」呢？

拓展閱讀：Project Maven

2017年4月，美國軍方提出Project Maven，其目標是「加快國防部整合大數據和機器學習」，也被美國國防部稱為演算法戰爭跨功能團隊（AWCFT：Algorithmic Warfare Cross-Functional Team）。據《華爾街日報》的報道，美國國防部在2017年人工智慧相關領域的花費為74億美元。

Maven的首要任務是幫助美國國防部有效地處理來自全球各地的海量的視頻資料。美國國防部每天收集到數量龐大的無人機飛行畫面，但人類圖像分析師遠遠跟不上視頻數量的增長。因此，國防部希望能利用機器學習來識別無人機鏡頭中的車輛和其他物體，從而減輕分析人員的負擔。在自身資源不足的情況下，國防部轉向了學界與業界的人工智慧專家合作。

在這一爭議項目中，谷歌提供的TensorFlow是一款人工智慧領域裡的免費開放軟體，也是谷歌人工智慧戰略的關鍵。它為機器學習工程師提供了進行數據排序和訓練演算法的框架，並且在整個行業中被廣泛使用。

「我們長期與政府機構合作為其提供技術解決方案。這個特定項目是國防部的試點項目，提供開源的TensorFlow API，可以幫助其識別未分類數據中的對象。」谷歌發言人曾就這次合作評論到。

根據國防部的說法，Maven利用最先進的計算機視覺技術，能夠自動檢測和識別無人機全動態攝像機捕獲的38種物體。這種技術目前已經部署在法律執行和軍事應用中，用來識別汽車和人等基本物體。

但新技術並非總能帶來便利，已經有研究人員發出警告，人工智慧技術可能會以不易察覺的方式產生重大偏見。例如，ProPublica新聞網站就曾在一份報道中指出，美國警方用於預測囚犯再度犯法可能性的演算法經常表現出種族歧視傾向。

面對質疑，美國軍方強調，只會將人工智慧作為人類收集情報的合作夥伴。但這並不能保證計算機輔助決策不會引發錯誤。人類無人機操作員可能過分依賴有缺陷的計算機分析結果，如果沒有適當的監督，這些缺陷可能會被忽視。

項目成立之初，谷歌也注意到了這個問題，其發言人當時表公司正在起草一份關於機器學習使用的政策和防護安全措施文件，但據知情人士了解，這份文件的起草還未實施。

本文綜合自網易科技、中原網、威鋒網、創世紀報道

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！