谷歌的新「人工智慧」原則將禁止其用於武器和侵犯人權

谷歌已經發布了一套模糊但卻令人欽佩的「人工智慧原則」，解釋了它在該領域將和不會發揮其巨大影響力的方式。這些都不是理論概念;它們是具體的標準，將積極指導我們的研究和產品開發，並將影響我們的商業決策。

幾個月來，圍繞「Maven項目」(Project Maven)的低層次爭議一直存在。該項目與美國軍方簽訂了一份合同，涉及對無人機鏡頭的圖像分析。一些員工反對這項工作，甚至辭職以示抗議，但實際上，這個問題是整個人工智慧焦慮的一個縮影，反映了人工智慧如何能夠、以及應該如何使用它。

與Pichai的聲明一致，谷歌Cloud首席執行官Diane Green今天在另一篇文章中證實了上周傳言的內容，即該合同將不會被續簽或與其他公司遵守。有報道稱，谷歌正在利用項目Maven作為一種手段，以獲得利潤更高、更敏感的政府合同所需的安全許可。

原則本身如下，相關部分引用自其描述:

對社會有益:考慮到廣泛的社會和經濟因素，在我們認為總體可能的好處大大超過可預見的風險和不利因素的情況下，繼續在我們運作的國家尊重文化、社會和法律規範。

避免產生或強化不公平的偏見:避免對人們造成不公平的影響，尤其是那些與敏感特徵相關的，如種族、種族、性別、國籍、收入、性取向、能力和政治或宗教信仰。

建立並測試安全性:應用強大的安全性和安全性實踐，以避免意外的結果產生危害風險。

對人們負責:為反饋、相關解釋和申訴提供適當的機會。

結合隱私設計原則:給予通知和同意的機會，鼓勵具有隱私保護的體系結構，並對數據的使用提供適當的透明度和控制。

堅持科學卓越的高標準:與各利益相關方共同努力，在這一領域提升有思想的領導力，採用科學嚴謹、多學科的方法……通過出版教育材料、最佳實踐和研究，負責任地分享人工智慧知識，讓更多人開發有用的人工智慧應用。

可以使用符合這些原則的用途:限制潛在的有害或濫用的應用程序。(規模、獨特性、主要目的和谷歌的作用是評價這一點的因素。

例如，它「尊重文化、社會和法律規範」的承諾肯定在很多方面都受到了考驗。我們在哪裡可以看到，儘管有這些規範，什麼時候實施了實踐，什麼時候谷歌政策已經傾向於滿足政府或宗教權威的要求?

在承諾避免產生偏見並對人們負責的同時(基於谷歌現有的工作)，肯定有什麼特別的東西要說嗎?例如，如果任何涉及google的系統都有基於敏感數據或類別的結果，那麼系統將會被完全審計並為公眾所關注?

這裡的思想是值得稱讚的，但是人工智慧的應用不是抽象的;如今，這些系統被用於確定警察的部署，或者選擇房屋貸款利率，或者分析醫療數據。真正的規則是必要的，如果谷歌真的打算保持它在這個領域的領導者地位，那麼它必須建立它們，或者，如果它們已經建立，那麼就把它們發布在顯眼的地方。

最後，谷歌可能不會做的事情清單更短，證明限制性更強。雖然在原則中使用「適當」可以為公司提供解釋的空間，但對禁止追求的定義則是相反的情況。這些定義是高度不確定的，而「可能造成整體傷害」或「國際公認的規範」等短語的監管可能會導致谷歌自己的規則出乎意料地令人望而卻步。

皮查伊寫道:「我們承認，這一領域是動態的、不斷發展的，我們將謙遜地對待我們的工作，致力於內部和外部的接觸，並願意隨著時間的推移而調整我們的方式。」我們很快就會看到這種意願的程度。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！