2019年矽谷在糾結：美國防部積極拋出合作的橄欖枝 跟谷歌Say No？跟微軟Say Yes？

矽谷科技公司2019年會面對一個嚴肅的問題——跟不跟政府合作開發軍事型應用？目前，美國科技界兩大巨頭給出了截然不同的答案，谷歌之前因員工抗議退出了美國國防部的AI軍事計劃「Project Maven」，而微軟10月發文表示會繼續跟美國政府特別是國防部合作。然而，其他科技公司還沒有明顯站隊的時候，據報道，美國國防部正在推出一項新項目，向矽谷的人工智慧研究人才積極拋出橄欖枝。

跟不跟政府合作歸根結底是科技公司或科技公司的員工跟美國聯邦機構之間存在的技術道德分歧，而這也是2018年最引人注目的聯邦IT頭條。

核心問題是當政府要求時，公司何時以及如何拒絕對於某些領導或員工在某種程度上技術不道德的事情？AI驅動的「武器」矽谷科學家應不應該支持研究？這個問題只能留待2019年甚至是以後來回答。

這個問題的最初要從今年穀歌因員工抗議而退出五角大樓的人工智慧項目Project Maven說起。

Say No的谷歌

去年年底，小部分谷歌高管悄悄地跟Project Maven簽約。當時，谷歌公司負責人工智慧的首席科學家李飛飛警告她的同事，如果他們參與Maven的事情被大眾知道，絕對會成為媒體頭條。

根據電子郵件截圖所示，她寫道：「我不知道如果媒體開始報道谷歌秘密製造人工智慧武器或用人工智慧技術為國防事業製造武器，在之後會發生什麼。」

她後來離開了谷歌，而她的老闆Diane Greene同樣離開了谷歌。

據報道，今年春季「成千上萬」的谷歌員工簽署了一封內部信函，表達對Project Maven可能實現的致命力量的擔憂。

信中寫道：「我們相信谷歌不應該參與戰爭。」員工們表示，軍事研究跟公司承諾「做正確的事情」的理念發生衝突。在此之後，今年5月份，大約有12名員工因此事而辭職。

今年6月，谷歌向旗下員工表示不會續簽2019年到期的Project Maven合同。然後公司進一步推出了一套「AI原則」，一份人工智慧技術宣言，展示了這項技術能夠做到和不會做到的開發。

同時對於Project Maven造成的抗議事件，谷歌表示，它不會開發人工智慧來製造「武器」或開發「導致或可能造成整體傷害的技術」。

沒過多久，谷歌就實踐了這些原則。10月份，該公司宣布不會競購聯合企業防禦基礎設施（JEDI）合同，即國防部的100億美元雲合同。

谷歌發言人當時在一份聲明中說：「我們不會就JEDI合同進行競標，因為我們無法保證它會符合我們的AI原則。」

谷歌不孤單，還有其他公司的員工也同樣擔心服務有爭議的政府機構。亞馬遜的員工抗議公司將面部識別軟體Rekognition出售給執法機構；微軟和德勤的員工抗議移民和海關執法局的工作。

Say Yes的微軟

然而，科技界至少有一家公司，而且還是技術巨頭表示希望繼續跟政府合作，同時也在重視員工對AI道德問題的關注。

在10月的一篇博客文章中，微軟總裁布拉德·史密斯（Brad Smith）宣布公司打算繼續與政府合作，特別是跟國防部合作。

史密斯寫道：「我們相信美國的強大防禦能力，我們希望捍衛美國的人能夠獲得這個國家最好的技術。我們希望這個國家的人們，特別是服務這個國家的人們知道，微軟在背後支持著。」

史密斯認為，實際上，微軟等公司的參與有助於保持代理商在使用面部識別等技術時的誠實和道德。但他也承認並非所有員工都會同意這種邏輯，但這也沒關係。

史密斯寫道：「我們理解一些員工可能有不同的看法。我們不會要求或期望在微軟工作的每個人都支持公司所採取的每一個舉措。一如既往，如果我們的員工想要在不同的項目或團隊中工作，無論出於什麼原因，我們希望他們知道公司很支持人才流動。」

積極的國防部

2018年的這些事是否揭露了矽谷科技公司文化跟美國政府文化之間不可調和的差異？這是否是公司需要面對的另一項挑戰？而美國政府當然不會認為兩者之間有什麼分歧，表現的相當積極。

美國人工智慧的頂級工程師大多在矽谷工作，而不是在主要的國防承包商。五角大樓現在面臨的挑戰是弄清楚怎麼說服專註良性應用（比如自動駕駛汽車和跟人交互的工具）的人工智慧工程師為軍事應用建立人工智慧。

國防創新部門（DIU，前身為DIUx）是國防部在矽谷設立的創新採購部門，它對美國媒體FedScoop表示，加州和軍方的科技公司之間的關係一如既往和諧。該組織的海軍負責人Sean Heritage上尉在接受採訪時表示，機構獲得了矽谷社區「非常非常積極」的歡迎。

他說，「願意與我們做生意」的公司數量都在增加，而DIU商業解決方案也在增加。

同樣，美國國防高級研究計劃局（DARPA）表示，谷歌退出Project Maven的決定「沒有妨礙」大型人工智慧研究項目AI Next。機構的國防科學主管Valerie Browning表示，DARPA已經看到了業界「非常好且堅實的回應」。

Project Maven主要會利用人工智慧來識別軍用無人機鏡頭拍攝的物體。

據報道，在谷歌退出Project Maven之後不久，五角大樓在一份備忘錄中寫道：「我們已經毫無準備地參賽。......如果我們不能贏得關鍵技術支持者的認可，我們就不能有效地與對手競爭。」

今年夏天，五角大樓新組建了一支團隊來開啟一個人工智慧項目，這個團隊是由Lt. General Jack Shanahan中將領導的聯合人工智慧中心（the Joint Artificial Intelligence Center），而這位中將曾擔任過Project Maven的負責人。

這個中心的第一個重大項目是開發一個人工智慧系統，幫助搜救隊員在災難發生後找到倖存者。

五角大樓還下令由國防創新委員會（Defense Innovation Board）審查其人工智慧道德，該委員會在2016年成立，由技術主管、教授和研究人員組成。

董事會成員包括前谷歌執行主席Eric Sc??hmidt、領英的聯合創始人Reid Hoffman、谷歌高管Milo Medin、Facebook高管Marne Levine和著名天文學家Neil deGrasse Tyson。

面對積極的政府，其他矽谷科技公司或者科學家在2019年的問題就很清晰了：跟谷歌還是跟微軟？這個答案值得關注。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！