OpenAI 發布通用人工智慧研究綱領：以全人類的名義承諾

雷鋒網 AI 科技評論按：近期 Facebook 泄露用戶數據、針對性影響用戶、Uber 無人車事故，以及全球學者聯名抵制韓國開發自主武器的事情再次敲響了人工智慧安全的警鐘。OpenAI 也於昨日發表了一份自己的研究綱領， 表明了自己的科研使命和行動法則，希望擔負起自己在「讓人工智慧造福全人類」這一偉大事業中的責任。文中也涵蓋了他們在過去兩年的研究中逐漸成形的研究策略，以及來自 OpenAI 內外的各種反饋聲音。雷鋒網 AI 科技評論編譯如下。

OpenAI 的使命是確保通用人工智慧（artificial general intelligence，AGI） - 能在多數有經濟價值的工作中展現超越人類表現的高度自動化的系統 - 會為全人類帶來福祉。OpenAI 不僅希望通過自己的努力直接建造出安全的、有益的通用人工智慧，而且同樣願意幫助其它研究組織共同製造出這樣的通用人工智慧。

為了達到這樣的目標，OpenAI 為自己設定了這些綱領：

廣泛參與，廣泛貢獻

• OpenAI 承諾，在通用人工智慧的開發過程中 OpenAI 將動用所有的影響力，確保它可以造福全人類，以及避免把人工智慧/通用人工智慧用於會傷害人類的、或者任務中，以及避免它們被過於集中的權力控制。

• OpenAI 承擔的責任主要要對全人類負責。如果有必要的話，他們準備好了對外分享所有重要的研究資源；同時他們也會積極行動，盡量減小股東和 OpenAI 工作人員之間的利益衝突，保證讓更多人從中受益。

通用人工智慧的長遠安全問題

• OpenAI 承諾進行能夠保證通用人工智慧安全性的研究，並且在整個 AI 研究領域內推動這類研究的大規模展開。

• OpenAI 擔心末端的通用人工智慧開發成為一場競爭性的比賽，在比賽中也就不會分配時間在必要的安全防護措施上。所以，如果在 OpenAI 研發自己的項目之前就出現了一個價值均衡、注重安全的通用人工智慧項目，OpenAI 承諾將停止和它競爭，並轉而輔助這個項目。OpenAI 未來會針對每個項目列出具體的執行細節，不過典型的觸發規則可能會類似「未來兩年內能夠成功的概率超過一半一半」。

技術帶頭人

• 為了能有效地向整個社會展現通用人工智慧的影響力，OpenAI 也需要站在 AI 能力開發的前沿 - 在政策和安全性方面僅僅發出聲音是不夠的。

• OpenAI 相信人工智慧在通用人工智慧之前就會產生廣泛的社會影響，OpenAI 也會在與自己的使命和經驗相吻合的領域努力保持領導地位。

面向合作

• OpenAI 會和其它研究機構以及策略制訂機構積極合作，希望能夠從中創建一個全球性的合作社區，共同應對通用人工智慧的全球性挑戰。

• OpenAI 承諾將為全社會公開提供信息，幫助社會走向與通用人工智慧共處的時代。目前要做的內容包括公開發表大多數的人工智慧研究成果，同時 OpenAI 也希望，隨著未來對安全和防護的擔憂越來越多，他們的老式的成果發表將會減少，更多地轉變為分享安全、策略和標準化的研究。

人類何時能研發出真正的通用人工智慧還尚未可知，但 OpenAI 相信也希望自己的綱領可以引導自己在通用人工智慧的研發過程中體現出全人類的最大利益。

這份綱領發出後，已經有一些學者給出了積極的反饋，非常歡迎 OpenAI 做出這樣的舉動，同時也認可 OpenAI 積極、堅定的態度，欽佩 OpenAI 公開做出這樣的承諾。

雷鋒網 AI 科技評論也非常期盼通用人工智慧的到來，而且我們也希望它真的到來的那一天真的是全人類的福祉。相信到時肯定會有 OpenAI 的功勞在其中。

via OpenAI，雷鋒網 AI 科技評論報道

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！