來源：OpenAI、thenextweb

編譯：肖琴

【新智元導讀】對於 OpenAI, 我們知道它是一家非盈利的，要用開放的方法研究通用AI，為人類帶來福祉的研究機構，它的初衷是馬斯克一再強調的「安全的AI」。現在，它的使命發生了一點變化：OpenAI宣布要all-in AGI（通用人工智慧），提出四項原則，並將減少AI研究的公開發表。

馬斯克在創立OpenAI時，給OpenAI的目標是確定人工智慧技術如何更好地為人類服務。近日，OpenAI發布了一份新的公司章程，根據章程，OpenAI未來的使命是開發「高度自主的系統，在大多數具有經濟價值的工作上超越人類」。它想讓機器比人類更聰明。

這一使命即通用人工智慧（AGI），取決於你用來做什麼，它可以是聖杯，也可以是潘多拉的魔盒。

OpenAI宣布all-in AGI。儘管馬斯克最近退出了OpenAI董事會（官方稱此舉是為了避免 OpenAI 將來與特斯拉可能發生的衝突），但OpenAI仍有它的野心。

一些專家，如谷歌的Ray Kurzweil，認為我們距離奇點（機器變得比人類更聰明的時間點）只有數十年。也有人認為這永遠不會發生。在有關AGI的討論中，大多數人要麼仍在試圖理清語義、學術類型，要麼更擔心資金問題，而不是擔心對人類的生存威脅。

幸虧OpenAI是一個非營利性組織。它有超過10億美元的資金和AI領域最聰明的人才（以及大公司）的支持，它能夠專註於技術而不必擔心去取悅股東以免失去資助。為了達到這一目的，OpenAI致力於小心謹慎地開發AGI，並避免AI軍備競賽，這可能導致研究人員失去重點。

OpenAI新的章程寫道：

我們將嘗試直接構建安全、有益的AGI，但如果我們的工作幫助其他人達到這一目的，我們也認為我們完成了這一使命。

在這份文件中，OpenAI甚至表示，如果另一家公司似乎接近了AGI的邊緣，它將退出並終止其研究。

多數人認為AGI是離現實很遠的科幻小說里的事情，甚至AI信徒們也認為擔心AGI還為時過早。但在某種程度上，我們需要一些強有力的指導方針來幫助開發人員避免意外的陷阱（比如摧毀人類）。等到機器人出現問題，再提出常識性的政策就太遲了。

OpenAI聯合創始人Ilya Sutskever說：「OpenAI在創立之初就已為建立一個強大的技術實驗室指定了完善的規範。但是，如何建立一個旨在使這些技術的長期影響進展順利的組織，這並沒有真正的先例。在過去兩年中，我們從頭開始建立了能力、安全和政策團隊，每個團隊都對這些規範有所貢獻。我們認為這些技術影響著每個人，因此我們與其他機構合作，確保這些原則不僅對我們，而且對社區的其他人都有好處。」

OpenAI目前沒有提出AGI的時間表，但它已經開始了「下一階段的OpenAI」，包括增加對人員和設備的投資，以期「在人工智慧方面取得重大突破」。

OpenAI章程全文

OpenAI的使命是確保通用人工智慧（ artificial general intelligence ，AGI）——我們指的是高度自主的系統，這種系統在大多數具有經濟價值的工作上能夠超越人類——將使全人類受益。我們將嘗試直接構建安全而有益的AGI，但如果我們的工作幫助其他人實現了這一成果，我們也認為我們的使命已經完成。為此，我們承諾遵守以下原則：

廣泛受益原則

• 我們承諾利用我們通過部署AGI獲得的任何影響，確保它被用於所有人的利益，並避免AI或AGI的使用傷害人性或令能力過度集中。

• 我們主要的受託責任是人性。我們預計需要集結大量資源來完成我們的使命，但我們將始終不懈地努力，盡量減少員工和利益相關方之間的利益衝突，因為這可能會損害廣泛的利益。

長期安全原則

• 我們承諾進行必要的研究，以確保AGI安全，並推動AI社區廣泛採用這些研究。

• 我們擔心後期AGI的發展會成為一場軍備競賽，缺乏足夠時間實施安全預防。因此，如果一個價值觀一致的、關注安全的項目在我們之前接近了AGI，我們承諾放棄競爭並協助這個項目。我們會根據具體情況制定具體的協議，但一個典型的可能性是「未來兩年內出現比以往任何時候都更接近成功的機會」。

技術領導力

• 為了使AGI的影響對社會有效，OpenAI必須要站在AI技術的前沿——單靠政策和安全宣傳是不夠的。

• 我們相信AI在AGI之前會產生廣泛的社會影響，我們在與我們的使命和專業知識直接相關的領域中發揮領導作用。

合作導向

• 我們將積極配合其他研究機構和政策機構；我們力求創建一個全球性的社區，共同應對AGI的全球挑戰。

• 我們致力於提供幫助社會通向AGI的公共產品。今天，這包括公開發表我們的大部分AI研究，但我們預計，由於安全性問題，未來公開發表的研究將會減少，同時增加分享安全、政策和標準研究。

【加入社群】

新智元 AI 技術 + 產業社群招募中，歡迎對 AI 技術 + 產業落地感興趣的同學，加小助手微信號: aiera2015_1 入群；通過審核後我們將邀請進群，加入社群後務必修改群備註（姓名 - 公司 - 職位；專業群審核較嚴，敬請諒解）。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！