老年實習生和越南農二代,他們這樣教會了谷歌大腦說話
谷歌人工智慧(AI)最近又出盡風頭,阿爾法狗化身「Master」,目前已在與中日韓頂尖圍棋大師的對弈中,連勝 60 局。你可能知道,阿爾法狗是谷歌旗下公司——Deep Mind 的得意之作。但是,財大氣粗的谷歌爸爸,其實養了兩個 AI 團隊。
另一個,就是大名鼎鼎的谷歌大腦(Google Brain)。它的門面產品是谷歌翻譯,前段時間也搞出了很多大新聞,讓眾多翻譯忍不住懷疑起了自己的人生。
谷歌大腦是一支有些奇葩的團隊。裡面有簡歷完美的 BUG 級別大牛(如現百度 1300 人 AI 團隊總裁,Coursera 創始人之一吳恩達)
然而,也有兩位不按常理出牌的谷歌實習生,以及一隻無所不在的神秘的貓。
2012年,Geoffery Hinton 成為了谷歌培訓室里最年長的實習生——當年正好 70 歲。同期的年輕人不時好奇地看他一眼,他們不了解的是,這個「老頭」如今已是深度學習的公認教父,過去卻當了足足 30 多年的計算機界「唐吉坷德」。
Hinton 出生於一個老式英國學術世家,從曾曾祖父到父親叔叔都是鼎鼎有名的大教授,可謂是全明星家庭。
不幸的是,
他本人進入劍橋大學之後,卻迷上了 AI 神經網路研究。之所以說這很不幸,是因為學術界跟你想的不太一樣,人家也是講究潮流的……50 年代末,美國海軍曾想要擁有自己的 AI 神經網路,它召集了一批頂尖學者,投入大量資金。然而,那個年代無論理論還是硬體基礎,顯然都不可能達到這麼高的水平。這個項目於是在大規模炒作和曝光之後,轟轟烈烈地失敗了……
因此,在 Hinton 上大學的 60 年代以及往後數十年間,神經網路一直被學術界認為是嘩眾取寵的典型。
不過,任何故事的主人公都能開掛預見未來,正如我們的 Hinton 老師。當年,人工智慧研究主要面向「單層神經網路」,比如,當從圖片中識別貓時,計算機的邏輯是:
貓應該有一對圓眼睛?還有兩隻尖耳朵?
Hinton 本科是心理學,他的想法則更為擬人,提出了「多層神經網路學說」,這時計算機找貓的方式就變成了:這些圖片都是貓,它們有什麼套路?
沒錯,又是這隻貓
這套太過抽象的理論在哲學家中很有市場,但理科生們不太買賬。Hinton不屈不撓,狡猾而堅定地反覆推廣自己的新·找貓攻略。70 年代末-80 年代初,他發表了一篇論文,嘗試解決「多層說」中,計算機如何提升試錯效率的問題。這篇論文先是掀起了一個小高潮,隨後又回復沉寂,Hinton 將此歸結為
:「我炒作得稍微有點過頭了……」
無論如何,隨著時間流逝,越來越多計算機科學家加入了用新方法找貓的行列,學界也終於認可 Hinton 作為深度學習開山鼻祖的地位。《紐約時報》跑去採訪他,他還慣例秀了句不討人喜歡的英式幽默
:「人工智慧可能比美國人先理解諷刺。」
不過,2012 年,當他以兼職身份成為谷歌實習生,走進谷歌的豪華版食堂時,並不清楚跑來搭訕的那個學生,會成為真正「找到貓」的人。
Quoc Le 是一位越南農二代。
顯然,在那連電都沒有通的小漁村裡,沒人能想到他以後會從事這麼潮的行業——人工智慧誒,那不是科幻電影里才有的嗎?毋庸置疑的是,Quoc Le是一位天才型學霸。他很早就被送入科學院學習,90年代在學校時,就開始設計聊天機器人。學霸想看看這事有多難,而結論則是……「實在太難了。」雖然事情沒有成功,但卻是他研究 AI 語言的第一步。
2006年,他輾轉來到德國大學城的一座研究所任職,就是在那裡的讀書會上,他接觸到了 Hinton 的論文。Le 同學無比興奮,他站起來發言:「這就是未來!」 鑒於當時 Hinton 的名聲還處在「唐吉坷德」的階段,這引起了激烈反響。Le 的導師後來發來郵件,質問他:「你當時為什麼要那麼說?」
他作出了自己的選擇。很快,他進入斯坦福,就讀於吳恩達門下,開始追隨 Hinton 的理念。到了2010年底,Quoc Le 有了很強的預感:「馬上將有變革要發生了。」
差不多是在同一時間,他進入了谷歌大腦,成為了一名實習生。谷歌作為巨無霸企業,擁有連頂尖高校都動用不了的資源,也就是說,直到這時,Quoc Le 等人才有機會,將那張巨型神經網路在現實中進行嘗試。
Quoc Le 的研究成果是,那篇具有劃時代意義的「給 AI 一張貓圖片,如何用一段語言描述它?」的論文。如果說吳恩達和李飛飛讓計算機長出了眼睛,那麼他就為 AI 安上了嘴巴和舌頭,使它開始牙牙學語。
聽上去好像很簡單?可是每張圖片中都有無限龐雜的信息,如何選取真正重要的內容才是難點。Quoc Le 的方法依然基於 Hinton 的理論:給計算機一張圖片,讓它自己試著篩選信息,再根據結果生成新圖片——兩張圖大體一致嗎?如果不一致,那就修正再嘗試。
這一步完成之後,他和同事又花了2年時間,教會計算機將詞語組織成一句話。
這就是谷歌大腦團隊中那兩位不同尋常的實習生。Geoffery Hinton 隨身攜帶著英國人奇特的幽默感,將幾十年間的非議都卷進煙紙里,燃盡成為吞吐的霧氣。Quoc Le 一路曲折前進,走過了越南人、德國人、美國人的漫長套路,才來到人類世界的前沿。
這有什麼難的呢?只要有環境能做自己的研究,Geek 們很樂意把他人的評論都視作下酒菜。
話說回來,谷歌大腦能把吳恩達這樣的大牛,和Hinton、Quoc Le等怪傑一起招入麾下,還能為他們提供專心研究的環境,主要是因為大腦的大腦——Jeff Dean 也完全吊炸天。
露露下回再和你們聊他的事情。啊,想到 Dean 老師的故事,還有點小激動呢~
想要了解開頭提到的吳恩達的事迹,可回戳我
上篇文章
本文為黑科技露透社原創
露露 ID:heiluluchan
如果你有感興趣的話題
也歡迎來找我投稿哦;)
長按二維碼關注黑科技露透社


※閆妮,韓紅,鳳凰傳奇…擠破頭想進時尚圈的中老年人好多啊
※這些老年人不愛廣場舞,只愛給充氣娃娃花錢
※得老年性陰炎 跟卵巢功能有關
※這部日版老炮兒,揭露了日本黑社會的老年生活
※日本「老年人」定義擬上調至75歲以上 引發熱議
TAG:老年 |
※老年實習生和越南農二代,教谷歌翻譯說!人!話!
※那些來中國做小生意的越南大媽一天能掙多少錢?聽聽她們怎麼說
※實拍:越南首都年輕女富二代是怎麼生活,跟國內還是差距大
※老人說,在越南這種情況每年只發生一次!
※越南警察就是這個樣,看看他們的真實生活
※我們為什麼喜歡越南女孩?說實話,第一個真美
※聽五十年代農村老人擺越南故事,有你不知道的真相
※這個國家的農村比越南還要窮,跟我們更是相差很大!
※農村小伙喜歡娶越南媳婦,真實原因竟是這個!
※這才是越南農村的真實情況
※同樣都是越南美女,她們的差距怎麼這麼大
※實拍越南農村,也許這就是越南姑娘想嫁到中國來的原因把
※實拍越南農村,也許這就是越南姑娘想嫁到中國的原因
※實拍越南女孩最真實的生活 她們說出了遠嫁中國的原因
※越南農村妹子長這樣,在自家菜地里也很美!
※實拍越南農村婦女,和想像中的不一樣
※越南農曆新年跟中國一樣,來看看越南春聯長啥樣!
※實拍越南富二代年輕女孩的生活
※看看越南的農村,會發現原來世界上的農村都差不多