Google用AI 幫美軍方分析無人機航拍視頻，員工對「助紂為虐」怒了

Google 正在利用人工智慧技術幫助美國國防部分析其無人機拍攝的視頻片段。

據外媒Gizmodo報道，上周，一些 Google 員工在內部郵件中分享該消息後，點燃了部分人的憤怒情緒。而另一些人則認為雙方的這次技術合作關乎機器學習發展和使用的道德問題。

雷鋒網了解到，去年秋天，還擔任 Alphabet 董事長的 Eric Schmidt 在一次談話中曾談到科技圈與軍方合作關係的擔憂。 「技術社區普遍擔心軍事和工業結合體，會被作為不正當殺人利器，」同樣也是國防創新委員會成員的他補充說，「我不會在軍隊內部提供 Alphabet 的東西。」

然而，Google 似乎食言了。

對於這次合作，可能會給 Google 帶來的好處是，將聯邦政府視為客戶之後，更有利於其在雲服務市場上拉近 AWS 和 微軟 Azure 雲。而且 Google 也稱其與軍方的合作與戰爭用途無關，但這一問題仍引起了員工們的普遍關注。

1.

爭議合作也就是 Google 參與的 Maven 項目。

Maven 項目於 2017 年 4 月由軍方主導創建，它也被稱為演算法戰跨職能團隊（AWCFT）。Maven 的任務指向是 「加速國防部整合大數據和機器學習技術」。華爾街日報曾有報道稱， 2017 年，國防部在人工智慧相關領域總共花費了 74 億美元，主要以應對中國在 AI 上的新軍備競賽。

據該中心的助理研究員 Greg Allen 介紹，該項目的首要任務是幫助軍方有效地處理空中無人機每天收集的大量視頻片段。儘管國防部已經投入資源開發先進的感測器技術以在無人機飛行期間收集資料信息，不過在整理數據時，它創建的分析工具較為落後。

「在 Maven 之前，該部門沒人知道如何恰當地購買、使用人工智慧服務。」 Allen 寫道。

Maven 的其中一個任務是使用機器學習來識別無人機視頻圖像中的車輛和其他物體，從而減輕分析人員的負擔。根據國防部的說法，Maven 想利用最先進的計算機視覺技術能夠自動檢測和識別無人機全動態攝像機捕獲的 38 種物體。

這種 AI 技術目前已被部署在了法律執行和軍事應用中，用來識別汽車和人等基本物體，但在分析複雜場景時也會遇到困難。有研究人員曾警告，AI 技術可能會以不易察覺的方式產生重大偏見。例如，ProPublica在 2016 年的報告中指出，用於預測囚犯再度犯法可能性的演算法經常表現出種族歧視傾向。

2.

Google 發言人稱，它正在向國防部提供用於機器學習應用的 TensorFlow API 介面，以幫助軍事分析人員檢測圖像中的物體。

TensorFlow 是一款 AI 領域免費的系統軟體，一直是 Google AI 戰略的關鍵。它為機器學習工程師提供了進行數據排序和訓練演算法的框架，並且在整個行業中被廣泛使用。

「我們長期與政府機構合作為其提供技術解決方案。這個特定項目是國防部的試點項目，提供開源的 TensorFlow API，可以幫助其識別未分類數據中的對象。」發言人說。

軍方正在使用 TensorFlow，這並不令人感到意外，但知情人士向The Verge證實，Google 正在積極幫助它的軟體以用於 Maven 項目。同一消息來源指出，谷歌和國防部之間的保密協議里有多少人參與這個項目的詳細信息以及這種合作深入狀況，但具體情況並沒有透露。

過去，Google 一直非常警惕與軍事研究的可能會存在的任何關係。例如，據雷鋒網了解，它在 2013 年收購了一系列機器人公司時，儘力與該公司正在執行的 DARPA 項目保持距離。而在谷歌於 2014 年收購 DeepMind 之後，該公司也成立了道德委員會，以確保該技術不會被濫用。

儘管如此，除了那些已經與美國使用無人機進行海外監視和有針對性殺戮的相關問題之外，Google 將人工智慧用於 Maven 項目不免引發道德問題。美國軍方強調它只會將人工智慧作為人類收集情報的合作夥伴，但計算機輔助決策仍然可能會引發錯誤。人類無人機操作員可能過分依賴有缺陷的計算機分析結果，如果沒有適當的監督，這些缺陷可能會被忽視。

當然，Google 發言人承認使用機器學慣用于軍事項目具有一定爭議性，但她表示該技術將圖像標記後用於人員審查，屬於非攻擊性用途。Google 目前圍繞這一爭議問題正制定相關政策和保障措施。

3.

國防部正在加速 Maven 項目的執行，預計在其成立六個月後即可投入運行。據報道，自 12 月以來，該項目已被部署在與伊斯蘭國的對抗中。

為了滿足該項目的迫切時間要求，國防部依靠自身顯然並不足夠。於是，它轉而尋求與學界和業界的人工智慧專家合作，以彌補軍方和矽谷之間的技術差距。根據項目總監 John Shanahan 的說法，Maven 項目將為整個國防部點燃「人工智慧的火焰前沿」。

2017 年夏季，在華盛頓舉行的國防技術峰會上，Maven 首席海軍陸戰隊上校 Drew Cukor 說，人與計算機之間的共生關係對於幫助武器系統探測物體至關重要。

在與許多來自矽谷的軍事和工業技術專家對話中，Cukor 宣稱美國正處於人工智慧軍備競賽。「你們許多人會注意到，Eric Schmid 現在稱 Google 是一家人工智慧公司，而不是數據公司，」但此時 Cukor 並沒有提及 Google 是 Maven 的合作夥伴。

「沒有任何『黑匣子』能夠提供政府需要的 AI 系統，至少現在不是這樣，」他繼續說道，「關鍵力量必須整合在一起，唯一方法就是與商業合作夥伴進行合作。」

國防部發言人也拒絕透露 Google 是否是其 Maven 項目唯一的私營行業合作夥伴，也沒有澄清 Google 在該項目中扮演的角色。

*雷鋒網報道

參考來源：Gizmodo,The Verge，圖片來自 Jim Cooke

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！