十問OpenAI，馬斯克人工智慧的初心與方向

科技 07-11

作者｜矽谷加先生

編輯｜小魚

微信公眾號ID｜Xtecher

2017年如火如荼的人工智慧浪潮，沒人能忽視OpenAI的存在。

這個由特斯拉CEO Elon Musk、LinkedIn創始人Reid Hoffman、YC掌門人Sam Altman和PayPal創始人Peter Thiel於2015年底聯合投資10億美金創辦的非營利性研究機構，在創辦之初就本著「創造一個全新的人工智慧實驗室，不受任何機構或者任何人控制，一切研究成果屬於全人類」的初心。

OpenAI旨在躋身地球上最強的人工智慧研究團隊之列，致力於進行非監督式學習和強化學習的研究。OpenAI的使命和長期目標是以最大限度地造福全人類的方式發展人工智慧。

如今，OpenAI成果如何？它所進行的研究有沒有背離原有的初衷？作為一個非盈利性AI研究機構，OpenAI未來將如何場景化落地？Xtecher拋出十個問題，從現在和未來的角度，與OpenAI的研究員、OpenAI Universe項目的完成者之一施天麟進行了深度交流。

OpenAI的研究員，OpenAI Universe項目的完成者之一施天麟

OpenAI，以未來為目標進行研究

Xtecher：目前OpenAI團隊的大致規模是多大？核心成員主要來自哪裡？

OpenAI：我們現在大概有50名研究人員，主要是各大學校博士，還有來自谷歌的10位左右的科學家。

Xtecher：OpenAI成立的願景是什麼？一般來講與校企合作是比較常見的方式，但是為什麼OpenAI要以非盈利的模式來推進人工智慧研究呢？

OpenAI：大家都覺得因為谷歌在AI方面非常強勢，它僱傭了很多研究者，做出很多有意思的事情。現在AI的研究越來越多的靠大量的計算和數據。谷歌有很多積累的數據，所以吸引了大量的AI方面的頂尖人才，像很多教授也加入了Google Brain和 DeepMind，像Geoff Hinton，Jeff Dean現在是谷歌裡面做技術最強的那波人。

但谷歌是個私人企業，沒人能保證它在未來不會做出非常危險的事情。所以Elon Musk和Sam Altman就想創造一個可以用AI和AI相抗衡的組織。OpenAI就這樣誕生，我們希望把人工智慧的技術以開源的形式進行研究。但是受限於人工智慧發展對數據的需求，單純的學術界已經無法滿足未來的規劃，所以OpenAI採取非盈利組織的形式進行發展。

Xtecher：OpenAI成立的時候，說要「以未來為目標進行研究，不用關心產品和技術盈利，」那什麼是研究成果的考核標準呢？發表文章嗎？

OpenAI：發表文章是一方面，OpenAI和一般的學術機構的不同是，一般學術機構可以有很多不同的方向，看到什麼新問題，就會發表一篇論文。但是創始人Elon Musk認為，所有人都應該朝著一個方向去努力，因為這才是一個組織能力發揮到極致的地方。對於OpenAI來說，這個方向就是機器人。他希望把所有人的努力都聚集於此，在未來幾年內集中力量去推動這方面的發展。

這是比較宏偉的目標，現在看很多機器人還非常初步，甚至很多還是非常基本的手動機械和控制邏輯。而OpenAI想通過深度學習的方法，將機器全部自動化，成為真正實現能自由行走、靈活操作的機器人。

OpenAI的兩位聯合創始人：

左：創業孵化器Y Combinator總裁山姆·奧特曼(Sam Altman)

右：特斯拉CEO埃隆·馬斯克(Elon Musk)

Xtecher：你覺得以你對OpenAI和這個行業的了解，這樣的機器人還要多久能實現商業化落地？

OpenAI：我覺得五年到十年左右，這也是我們為什麼現在不關心商業化的原因，因為現在還太早，所以我把更多的時間放在fundamental research（基礎研究），把控制機器人最基本的框架和演算法先研究進步，等時機成熟的時候，再去商業化。

AI平台與產品落地

Xtecher：如果說我們給人工智慧做一些設置，讓它在執行任務時保證人類的安全，那麼人工智慧自身的進化，是否有可能讓他們隨時拋棄掉這些安全準則？OpenAI在安全領域有什麼產品化落地嗎？

OpenAI：AI的安全領域一直是我們的擔憂。當我們發明越來越智能的演算法時，怎麼樣保證人工智慧的安全性？因此，OpenAI專門設立了一個叫AI Safety團隊。他們的目標就是我們如何從策略、政治方面，來保證我們研究的機器人無法佔有世界。

至於你說的情況完全有可能。首先你這個安全準則是怎麼定義的，即便是看上去是很安全的準則，但也有可能會有潛在危險。舉個例子說，比如說你制定了一個準則，說AI要去提升人類的幸福感，這個目標看上去非常安全了吧？但是你怎麼樣界定這個安全，怎麼定義幸福指數，某個人的幸福指數，還是所有人的平均幸福指數？如果你把這個定義為全人類的平均幸福指數，那你是不是可以通過殺死一部分人，然後提高其他人的幸福指數，所以這些是很模稜兩可的。

Xtecher：同為開源平台，OpenAI和DeepMind最大的區別是什麼？

OpenAI：OpenAI更開源。DeepMind的代碼其實有很多細節並沒有被披露，論文裡面宣稱的成果，通過它的開源代碼很難達到。此外，OpenAI也更開放一點。它會和很多高校合作，比如和伯克利有個雙學位項目。如果你的項目在OpenAI沒有做完，你還可以在學校接著做。這和其他平台不同。最後，我覺得OpenAI是平台上的開源，體現更多的是打造人工智慧的社區，形成讓AI訓練的平台。DeepMind更偏向演算法上的開源。DeepMind也有一些平台，但是它的平台並沒有像OpenAI Gym那樣火熱。我們希望，通過OpenAI平台的開源，能夠讓世界各地的研究機構更加協作，共同參與到演算法研究中。

Xtecher：既然說到了去年發布的OpenAI Gym（一款用於研發和比較強化學習演算法的工具包），現在這個工具包使用情況怎麼樣？OpenAI Gym開發到現在最令人興奮的事情是什麼？

OpenAI：很多，可以說每個學校和主流的研究機構都在用。只要和Reinforcement learning (增強學習)有關，和機器人有關，都可能會用OpenAI Gym來作為一個測試的平台。

最興奮的一件事情是，看到越來越多人在這個平台上打造新的軟體，因為Gym不僅僅是一個平台，它更多是一個標準，它是一個開放的介面，假如說你有一個軟體，或者一個遊戲，你可以輕鬆運用Gym的工作平台，讓AI在裡面去學習。

Xtecher：如果你有無限的預算，你會利用OpenAI的平台做什麼，OpenAI本身又會做什麼？

OpenAI：我個人的話，我現在在做World of Bits，是OpenAI平台上的一個框架，我們的目的是能夠讓AI自動地像人一樣瀏覽互聯網，幫我們做訂機票、訂酒店，或者查餐廳這樣的事情。之所以這是令人興奮的，是因為它是虛擬世界的機器人，因為它需要解決和現實社會接近的問題。怎麼樣給AI設計他們生活的環境，以及AI在我們生活的環境有什麼不同是我要解決的人機交互問題。如果僅僅在已有環境中訓練機器，那就很簡單了，完全可以通過一些API等方法實現。難就難在怎麼樣去設計這樣不規則的環境。

OpenAI會繼續在機器人領域發力。這是一個令人興奮的一件事情，希望未來五年，真正能夠看到有機器人在家裡為你做家務，可以幫你燒飯、做菜，幫你洗衣服、整理床單，將科幻電影中的一些場景變成現實。

「通識」與AI解決所有問題的未來

Xtecher：很多說深度學習，可以給機器帶來一些近似於通識的能力，就是像人類一樣思考並整合常識。OpenAI通過OpenAI Universe訓練人工智慧通識的可能性大嗎？你們認同嗎？

OpenAI：目前這個階段，可能性不大。OpenAI Universe一開始的願景，是打造AI能夠在新的環境中快速學習的能力，就是所謂的Learning to learn。這是人很擅長的，人遇到新的問題，很容易去通過分析和觀察，並快速地去學會解決這個問題。那麼AI現在，更多的是我有一個數據，然後我用大量數據去訓練一個模型，但是這個數據和模型可能並不適用於新的信息。

所以OpenAI Universe的想法是，我們能夠去建立一個非常多樣化的遊戲場景，讓虛擬世界變成人工智慧的遊戲場。不僅是一個遊戲場景，可能是一百種相似的場景，讓AI在場景訓練。然而，common sense（通識）是很難的事情，因為common sense是相當於需要所謂的Life long learning，就是人是通過和其他人不斷交流，和自身經驗的積累，把所有的知識給總結歸納出一些common sense。我覺得AI還沒有做到那一點。所以它對於重複的Task（任務），它能夠掌握得非常好。但是如果總結和歸納，我覺得還比較遠。

這個方向肯定是我們想達到的。但我認為，現在還比較早。它更多是我們要實行的目標，我們有benchmark(標準)，但是現在演算法層面還沒有達到那個層次。所以這是不斷積累的過程。