剛剛，Google發布AI七原則：不開發武器，但會繼續與軍方合作

夏乙 一璞 發自 凹非寺

量子位 出品 | 公眾號 QbitAI

終於，Google亮明了態度。

在經歷了數個月的風波之後，在數千員工發起聯名抗議之後，在學界大牛紛紛聯署反對之後，在各大媒體深入曝光內幕之後，Google終於調整了自己政策。

今天早間，Google CEO正式發布了使用AI的七項原則。其中包括不會將AI技術應用於開發武器，不會違反人權準則將AI用於監視和收集信息，避免AI造成或加劇社會不公等。

不過，Google也表示，將會繼續與政府和軍方展開AI合作，例如網路安全、培訓以及徵兵等領域。

「我們認識到，這種強大的技術引發了同樣強大的問題，AI的開發和使用將會對未來多年的社會產生重大影響。」Google CEO皮查伊（Sundar Pichai）寫道。

另外，Google制定的原則還要求公司職員及客戶「避免給人帶來不公正的影響」，尤其是與種族、性別、性向以及政治或宗教信仰有關的影響。

皮查伊稱，對於違反上述原則的應用，Google保留封禁的權利。

同時，Google雲CEO戴安·格林（Diane Greene）也在官方博客上發布了一篇文章，來介紹如何在Google Cloud上踐行Google的AI原則。

她特別提到，Google將不再延續Project Maven的合同。但是「正在與『我們的客戶』合作，以求用對他們來說長期有效、又不和我們的AI原則衝突的方式，負責地履行我們的義務，」

各方評價

看見這份《原則》，不少Google員工給出了很愉快的評價。

Google現任AI負責人Jeff Dean除了在Twitter上分享Google發表的這份原則之外，還提到為了真正踐行這些原則，他們還提出了一套技術實踐指南Responsible AI Practices，指導科學家和工程師們在構建AI產品的時候應該注意什麼。就是這個：

https://ai.google/education/responsible-ai-practices

DeepMind聯合創始人穆斯塔法（Mustafa Suleyman）自己沒有發表觀點，而是在Twitter上轉發了人權觀察組織（Human Rights Watch）Mary Wareham的話：各國政府應該關注到科技行業的最新動態，開始就禁止全自動武器展開協商，制定新的國際法規。

Keras作者Fran?ois Chollet說，對於AI創業公司來說，這個是一個很好的例子，表明你可以對產品中道德問題的潛在影響進行前瞻，每個AI創業公司都應該起草一份這樣的東西，不要等到危機四起才動手。

Google大腦研究員Dumitru Erhan評價得非常簡短，簡單說了一句「看見這個出來了好開心」，大概代表了很多Googler的心聲，二進宮的Ian Goodfellow也轉發了。

但是對於這份原則，並不是所有人都買賬。

《紐約時報》認為，由於Google此前一再強調自己為國防部所做的工作並非出於「進攻目的」，這些指導原則能否將該公司排除在類似Project Maven的合同之外，尚不清楚。

ZDNet也在評論中指出，即便Google說不讓自己的技術用於武器開發，但一旦變成開源項目，這些技術和代碼就有可能用於作惡，就像其他的工具與技術一樣。

原則全文

皮查伊在名為《Google人工智慧：我們的原則》的博文中寫到：從垃圾郵件篩查到醫療診斷，人工智慧可以幫助人們完成許多事情，這是我們致力於AI研發的原因。但這種強大的技術也會帶來問題，人工智慧的應用將會對未來社會帶來深遠影響。

然後他公布了七項人工智慧指導原則：

AI應用目標：

我們相信AI應當

1、對社會有益。

2、避免製造或加劇偏見。

3、提前測試以保證安全。

4、由人類擔責。

5、保證隱私。

6、堅持科學高標準。

7、從主要用途、技術獨特性、規模等方面來權衡。

我們不會將AI應用於：

1.製造整體傷害之處。如一項技術可能造成傷害，我們只會在其好處大大超過傷害的情況下進行，並提供安全措施；

2.武器或其他用於直接傷害人類的產品；

3.收集使用信息，以實現違反國際規範的監控的技術；

4.目標違反被廣泛接受的國際法與人權原則的技術。

在博文最後，Google CEO寫道：我們相信這些原則是Google和AI未來發展的正確基礎，這與我們2004年發布的價值觀一致。我們在此明確表示Google更看重AI的長遠發展，即便需要為此付出短期的權衡。

「We said it then, and we believe it now.」

風波回顧

去年秋天，Google開始秘密與美國國防部接洽，合作Project Maven項目，根據雙方的秘密協議，Google原本要為美軍無人機提供頂尖AI技術。

包括李飛飛在內的高管團隊，當時就此事展開了激烈的內部討論。討論的核心就是，不能讓外界獲知此事，否則會影響Google的聲譽。

不過紙終究包不住火。

這一項目在內部開展後，Google員工們開始發起抵制。

3月，Google內部3000多名員工聯名上書，抵制與五角大樓的合作。4月，事件進一步發酵，包括Bengio等上百名學者、科學家二次上書，數十名員工因此離職，要求Google退出Maven項目，並且起草政策聲明Google永遠不會開發戰爭技術。

隨後媒體也介入，深扒此事。

—完—

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！