馬斯克做Open AI的野心和私心

一直號稱人工智慧比朝鮮核武器更危險的馬斯克，可能也是那個把世界推入險境的人。

（馬斯克飽受質疑，外界認為Open?AI成為其招攬人才的後花園。圖/AFP）

《財經》駐矽谷記者 劉泓君/文 謝麗容/編輯

當全世界都在關注美國總統特朗普與朝鮮的互慫上，特斯拉創始人伊隆·馬斯克（Elon Musk）發Twitter稱「如果你不關注人工智慧的安全，你應該擔心，它比朝鮮問題更危險」。

這已經不是他第一次發表對人工智慧安全問題的擔憂。8月中，他與來自26個國家的人工智慧領袖聯合向聯合國呼籲嚴格限制自動化殺人武器，如坦克、無人機自動槍械等，禁止這些武器在國際間使用。

兩年以前，馬斯克聯合矽谷大佬投資10億美元成立了一家非營利組織Open AI，號稱要防止人工智慧滅世。

這個組織幾乎匯聚了矽谷最有權勢與名望的人，除馬斯克以外，它包括了很多熟悉的名字：著名孵化器Y Combinator創始人山姆·奧特曼（Sam Altman）以及合伙人Jessica Livingston、前Stripe的CTO格雷格·布勞克曼（Greg Brockman），被稱為「矽谷人脈王」的Linkedin聯合創始人Reid Hoffman，以及Paypal共同創建者及著名投資人Peter Thiel。

儘管人工智慧滅世的言論一直富有爭議，馬斯克的警告可能並不是危言聳聽，但他的Open AI真的有能力有意願防止人工智慧毀滅世界嗎？馬斯克的真實動機也一直在被質疑。

Open AI的神秘面紗

如果用最通俗易懂的話來解釋Open AI正在做的事，就是做一個「會做飯的機器人」。想像一個機器人能夠像人一樣去行動去思考，這是Open AI的終極使命——建立安全的通用機器人。

做飯是一個非常複雜的任務。儘管現在亞馬遜的倉庫、特斯拉的工廠中都用上了機器人，但這些機器人只做簡單重複性的工作，在車間流水線上組裝零件。對靈活的任務，機器人做的並不好。馬斯克希望能夠通過機器人研究，推進家務機器人的前沿研究。

施天麟是Open AI的早期成員，也是斯坦福人工智慧方向的在讀博士。2015年12月，他參加一個關於機器人的行業會議，並在這個會議上機緣巧合地認識了格雷格。當時，格雷格開始興緻勃勃地跟施天麟講未來想要做的事情，並告訴他一些大牛即將加入。在蒙特利爾的一個會議進入尾聲時，馬斯克與山姆宣布成立新的人工智慧非營利公司Open AI。

儘管有著眾多的行業大佬背書，實際操作人也起著關鍵作用。第一個加入Open AI的人是格雷格，相傳他與馬斯克私交甚篤。他是增強學習很有名的研究者，導師是伯克利做機器人研究的教授。

格雷格創業之後主要負責Stripe底層平台，因此在學術研究社區知名度並不是很高，他主要搭建負責Open AI的基礎架構。

真正主管研究的人是Ilya Stuskever，他在谷歌大腦有著三年的研究經驗，在此之前，他是斯坦福深度學習實驗室吳恩達（Andrew Ng）團隊的博士後，曾與多倫多大學教授Geoffrey Hinton一起工作，是其最得意的學生之一。谷歌曾經為了搶奪Geoffrey與他的兩個學生，特意發起對DNNResearch的收購，這家公司隸屬多倫多大學計算機科學院，只有三個人—— Geoffrey Hinton以及他的研究生學生Alex Krizhevsky和Ilya Sutskever，而且該公司沒有任何實際產品與服務。

Open AI成立以後，馬斯克每周會來辦公室半天。他並不會在會議上滔滔不絕，大多數時候只是聽大家說，然後給出一些方向性的建議，在場的成員能明顯感覺到他對機器人的濃厚興趣。

除了給出方向建議，馬斯克還會幫Open AI找融資，在現有的10億美元融資中，有相當一部分來自於他自掏腰包。

山姆則負責Open AI所有的對外合作部分，比如近期跟Dota合作的人機大賽，需要遊戲開發者獲取他們的API介面以及一些開放數據。

如果要對人工智慧研究進行成本分析，成本來自於伺服器提供的計算資源、數據獲取以及人才工資成本。伺服器成本是所有人工智慧公司成本中最大的一塊，山姆也牽頭促成了Open AI與微軟雲Azure合作，以幫助Open AI尋找可用的伺服器。

Open AI目前僅60多人，辦公室坐落在Stripe舊金山的辦公區。在該組織成立早期，主要依靠內部成員的相互推薦。現在有一套固定的招聘流程招聘研究人員，而基礎架構的工程師方向則與Facebook、谷歌的招聘流程類似，招聘工資也直接對標這兩家公司。

目前，在Open AI的平台上有三個大的開源平台—— Gym、Universe和Robot。主要研究方向是機器人的遷移學習與增強學習。Gym是指研究在每個細分研究領域建立自己的演算法以後，把演算法放在不同的環境中測試；Universe目標是讓AI智能像人一樣使用計算機，目前已有1000種訓練環境；而Robot則是訓練機器人。

對抗巨頭？

馬斯克在成立時就宣稱Open AI要對抗Facebook、谷歌等巨頭壟斷，以開源的方式來驅動研究。

就在Open AI宣布成立的一個月以前，互聯網巨頭把人工智慧的發展推向高潮。當時，谷歌宣布將部分開源人工智慧引擎，Facebook也在不久後宣布開源深度學習計算機伺服器設計。Open AI自成立就開始宣布自己要開放它所有的研究成果。

與巨頭開放這些人工智慧平台不同，Open AI的開源是演算法而非平台，它也會與巨頭的開源平台合作，其Gym平台就與谷歌的TensorFlow合作。

回顧人工智慧最近幾年的發展趨勢，無論是演算法還是平台，開源已經是人工智慧競爭的一大核心策略。

得人才者得人工智慧。在矽谷，做深度學習的人工智慧博士生，已經成為幾大互聯網巨頭瘋搶的對象。各大機構競相追逐學術研究者並開出高價，這在歷史上從沒有發生過。一位研究者稱：「在Open AI成立之後，谷歌與Facebook給頂級研究人員的Offer高了兩倍。」

對學術研究者來說，他們更願意分享自己的研究成果，並以此建立影響力。開源可以幫助這些AI機構吸引更多的人才。同時，對巨頭來說，開源也意味著更多的開發者會利用平台搭建演算法，可以幫助平台自我完善，也會加快整個產業的發展進程。

如果要在業內給Open AI找一個對標者，最相似的莫過於與李世石圍棋大戰的DeepMind。兩者都不是平台，而是對人工智慧的演算法研究。施天麟在他的研究中發現，Open AI更偏向於機器人的研究，會使用更多專門為機器人打造的虛擬環境，而DeepMind更偏向於用遊戲做虛擬環境進行訓練。

「DeepMind認為在遊戲規則下能夠獲勝的AI有一定智能，但這個離真實的機器人還比較遠。你能控制一個遊戲機的飛船，並不意味著你真正能夠控制一架飛機。」施天麟對《財經》記者說。

他正在為Open AI開發「World of bits」的訓練平台，是Open AI Universe的前身，希望機器人能夠像人一樣在網上訂機票、酒店、外賣。但其關注點不是最後機器人如何訂到機票，而是通過觀察人怎麼訂機票，讓機器去學習人的這種在不同環境下都可以應對自如的「遷移學習」能力。

施天麟認為，儘管DeepMind號稱開源，但只開放了幾個「迷宮」這類的小遊戲，真正核心的演算法依然沒有開源。

AI競爭，數據為王。無論是Facebook還是谷歌，都有強大的平台資源和數據寶庫。外界對Open AI最大的質疑是，沒有數據資源如何突破人工智慧研究？

吳恩達曾說過：「為什麼做AI需要去大公司，因為大公司有海量的數據和強大的計算平台。」

施天麟的項目需要徵集人怎麼用計算機訂票的演示，於是他在亞馬遜上發起了眾籌項目以徵集數據，每小時價格10美元左右，目前已經花了幾萬美元。但這相對於大公司的數據，依然九牛一毛。

山姆曾在Open AI成立的時候稱，Y Combinator將會與Open AI共享數據服務。Y Combinator已經在矽谷投資了大量的獨角獸企業，旗下的平台有Airbnb、Dropbox、Stripe。同時，特斯拉也稱將開放數據給Open AI，微軟與亞馬遜也正在變成Open AI的合作夥伴。

如此看來，Open AI可能會通過各種間接渠道獲取機器訓練數據，但美國對數據監管政策嚴厲，Open AI目前可以獲取一些數據，但這樣的來源是不穩定且充滿風險的。

不過也有做房產分享的創業者認為，Open AI的房源數據就可以多過谷歌，因此它在一些細分領域並不處於劣勢狀態，也可能成為對抗巨頭的一方勢力。

馬斯克的私心？

即使對億萬富豪來說，10億美元的投資也並非一筆小數字。儘管他曾經多次表示出對人工智慧心存恐懼，但這一動機仍被質疑。

馬斯克曾經投資著名的人工智慧研究公司DeepMind，後來這家公司被谷歌收購，這也讓他了解了人工智慧的發展前沿。接近馬斯克的人認為，在創建特斯拉與Space X時，他對工程類技術非常了解，但他並不了解最前沿的深度學習技術，依然處於學習階段。

眼下，馬斯克旗下的特斯拉正在研究無人駕駛，他還將在今年10月推出無人駕駛卡車。在無人駕駛的競爭中，特斯拉每一輛在路上跑的車都可以看成是一次數據收集。然而，無人駕駛涉及到圖形圖像識別、分析等多個深度學習研究領域，擁有了數據這塊寶藏之後，他旗下的公司對AI人才有著迫切的需求。

著名研究員Andrej Kapathy從Open AI跳槽加盟特斯拉無人駕駛團隊，直接向馬斯克彙報。Kapathy的跳槽讓馬斯克飽受質疑，外界認為Open AI成為其招攬人才的後花園。

Open AI一個研究項目是機器人如何抓取物體。比如人讓機器人去冰箱拿啤酒，啤酒瓶從哪幾個點抓起來既穩又不會碎，這個方向不需要大量的數據，只用建立各種模擬場景模擬即可。一個容易聯想的事實是，馬斯克建立了自己的特斯拉工廠，他的工廠中已經引入很多自動化的機器人生產。

儘管Open AI號稱對所有人開放，但這家非營利機構也的確彌補了他商業上的短板，成為這家組織的實際受益者。

在Open AI這種非營利組織架構中，管理較為扁平，以項目為單位劃分。Ilya曾經在Open AI的私人聚會上透露，評價標準之一就是發論文。組織成員認為，這種組織形式與大學的實驗室比較像，每個人都有自主權去選擇要做些什麼項目，而科研項目的周期往往比普通項目要長。因此如果實驗中，發現想法是不可行的，也可以中途放棄。

不過，這種模式也令外界質疑，類似於學術研究的演算法對工業界究竟產生多少影響力有待懷疑。

通常企業開發研究中，不同人會在一個社區中貢獻大量的代碼，這個代碼庫由很多程序員來維護。而在學術研究中，只有幾個人做一個課題組，很多時候一個人就可以寫一個演算法。加上學術研究的樣本庫較小，在大規模的檢測後可能並不能應用於其他場景。

除了一些計算機領域的大神，學術研究最終大概只有1%的演算法能夠適應不同的環境最後留下來。但如果底層研究有突破性進展，將會催生一個產業的誕生。

吳恩達在谷歌大腦時，曾經使用1000台機器去學習Youtube上關於貓的視頻，使用深度學習神經網路最後可以在很多圖片中識別貓。當時沒有人會嘗試用1000台機器的大量計算能力去學習。但這次突破印證了當你有足夠多的計算資源足夠多的數據時，演算法的突破會有很大潛力。此後，計算機視覺進入到一個快速發展的時期，人臉識別、圖像識別、自動駕駛等基於計算機視覺的公司如雨後春筍般出現。

Open AI的野心是希望能夠在機器人領域做出類似的大突破。「如果能把機器人做出來，發明一種新演算法讓機器在環境中快速學習，極可能催生一個嶄新的機器人產業。」 施天麟說道。

不過，機器人通用演算法在未來十年里都不會有大突破，因為這需要大量的數據訓練、計算能力和高昂的成本投入。

「實現這件事的演算法還不成熟，控制人工智慧不做危險的事更是無稽之談。」有不願具名的分析人士向《財經》記者稱，「但是馬斯克發表機器人的這些言論是有根據的，如果機器人演算法有重大突破，類似於當年識別貓的圖片那樣，那機器人就是一件很危險的事情。」

不妨這麼說，如果馬斯克的目標真是通用的人工智慧機器人的重大技術突破，那他極可能成為把世界置於危險境地的人。儘管馬斯克已經在做儘可能多的增強學習等安全方向的研究，但不排除如果居心叵測之人使用Open AI的研究成果開發武器。

儘管不排除馬斯克成立Open AI確實存在一些私心——在未來的技術競爭中佔據制高點，並且廣泛網羅人才。但他的擔憂也不無道理，也可能確實有出於無私的角度在推進行業的發展。畢竟，機器人是個大趨勢，巨頭與創業公司已經開始搶佔市場，非營利組織存在的必要性也毋庸置疑。

（本文首刊於2017年9月25日出版的《財經》雜誌）

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！