清華大學鄧志東教授：國內研究氛圍浮躁，原創性演算法太少

雷鋒網 AI 科技評論按：自去年 3 月 AlphaGo 戰勝李世乭後，人工智慧「突如一夜春風來」地步入人們視線，業已成為家喻戶曉的一個名詞。目前，以深度卷積神經網路為核心，以計算機視覺、語音識別與自然語言處理為代表的人工智慧產品已經步入全面開發與大規模產業化應用階段。這一趨勢實際上與人類的視聽覺感知能力息息相關，但不少初涉這一領域的從業者或是對此感興趣的學生們卻依然是霧裡看花，原因不外有二，一是在學習理論的過程中，自學往往缺乏系統的歸納和整理；二是教科書跟不上產業界的技術變化，而網上信息良莠不齊，自學者也缺少及時且實用的教程。

為了推動 AI 人才全面化，AI 科技評論將為大家提供一個業界頂級的專業 AI 技術培訓平台：1024MOOC，作為長期站在研究第一線的學者，清華大學計算機系教授、博士生導師鄧志東也見證了近年來人工智慧從冷門到大火的歷程。

在雷鋒網 AI 科技評論的邀請下，本周末（3 月 4 日），鄧教授將於 1024MOOC 平台開展長達 20 小時、持續兩個周末的「人工智慧之神經網路特訓班」課程，系統地為報名課程的同學們介紹人工智慧中的神經網路，特別是深度學習的發展現狀、基本原理和主要方法，並結合具體應用案例，進行編程實操剖析。課程將強調各種理論方法在解決實際問題中的綜合應用，也將補充介紹最新的科研成果與前沿領域，可點擊此處了解報名詳情。

目前我們所了解的人工智慧，最起初是 1956 年 McCarthy、Minsky、Shannon 和 Rochester 等在 Dartmouth 學院發起的夏季研討會上提出的概念，人工智慧被界定為「研究與設計智能體」的工作，而其中智能體的定義就是「能夠感知環境，並採取行動使成功機會最大化的系統。」

人工神經網路最開始是基於 MP 人工神經元模型和 Rosenbaltt 的感知機發展起來的。而現在非常流行的深度卷積神經網路則經由 1974-82 年日本學者 Fukushima 提出的認知機 (cognitron) 和神經認知機 (neocognitron) 模型演化而成，它的原理正是模擬人的視覺皮層通路而構造的。如果要將深度神經網路與人腦生理構造做類比，鄧教授認為這就相當于飛機與鳥的關係。「飛機並沒有像鳥一樣有兩個撲翼式翅膀，用純生物的內部機理去模仿，這樣的飛機肯定是沒有多大實用價值的。我們現在設計的飛機，利用的是空氣動力學、引擎和固定機翼等，但人造的飛機不論是飛行的續航里程、高度或是載客量，都要遠遠超過生物鳥。」

因此，如果現代腦科學或是神經生物學領域有任何的進步，對人類在深度神經網路的研究與探索，都會有很大的啟發，也是極其重要的創新源泉。而自然地，由於人類最重要的兩個感官就是視覺和聽覺，因此計算機視覺、語音識別與自然語言處理就成為了目前應用領域最廣，發展最快的三個分支。

包括人臉識別、視覺物體識別、交通標誌識別在內的計算機視覺特定應用場景，其識別性能目前已經達到了人類水平，基於深度學習的語音識別、自然語言處理的性能也比傳統方法好了很多。而這些在鄧教授看來也是此類弱人工智慧技術能迅速受到產業界關注的根本原因。技術的進步同樣會催生應用開發的商業落地，因此與人類水平的性能比較距離自然就成為了分水嶺。「以往的人工神經網路性能與人類相比還是差得太遠，產業界鮮有人關注，也沒有什麼商業價值。」

而語音識別及機器翻譯等方面的內容，雖然還沒有達到人類水平，但相比之前也已經有了很大的技術突破。目前，文本分類利用深度神經網路，其研究的門檻也已經降低了不少，系統可以通過深度監督學習獲取文本與類別的映射關係，識別正確率也已經有了很大的提升，超過了傳統的 n-gram 方法。

但在鄧教授看來，這方面神經網路識別能力尚未達到人類水平的根本原因在於，神經網路對語義還不能實現理解。

「一個正常人一睜開眼睛，在無意識的過程中就能夠將一切物體進行分類或已有了真實物體對應的概念，之後就可利用已存儲在頭腦中的常識了。我們都知道杯子一定要放在桌子上，而不可能反過來，這種概念之間的相互關係實際上就是人類的常識。原來的符號主義走了很長時間也無法進行下去，而我們也不能再走老路。從深度卷積神經網路獲得分層特徵的表達學習，從概念到知識，再到更高層次的概念和知識，如此形成不同粒度的知識圖譜，這樣才有可能實現人類在人工智慧上的突破。」因此鄧教授強調，人工智慧研究的關鍵在於一定要建立在已有的感知智能的成果基礎之上。

在理論層面的前沿探索上，以無監督或半監督學習為研究導向的生成式對抗網路（GAN），帶注意力（attention）、記憶（memory）和捷徑 (shortcut) 的 LSTM 等，都是目前進展比較快的一些研究。而為了發展通用人工智慧與實現語義理解，鄧教授認為需要結合自上而下的知識驅動與自下而上的數據驅動，以便利用小樣本也能完成深度神經網路的訓練。

隨著學術界頻傳佳音，產業界自然也在尋求著變化。鄧教授認為，要實現產業化最重要的是選擇一個落地的垂直細分領域，以適應帶標籤大數據的獲取。而很明顯，高校比起市場嗅覺靈敏的企業來說並不擅長這樣的工作。高校主要專於前沿交叉技術的研究與探索，對行業情況與用戶需求則缺乏深透的了解。但對產業界而言，人工智慧技術在行業應用時一定要選擇好特定的應用場景，演算法則反而不是最重要的。

這是一個新興領域的產業鏈，而企業在大數據來源和計算平台資源兩個方面都完全碾壓高校。

高校研究通常採用的是像 ImageNet 這樣的公開數據集，主要目的是為了對演算法進行性能測試，自然也沒有什麼商業價值。而企業並不會對外公開與公司利益相關的數據，除非合作，高校自然也拿不到手。

而在計算資源上，一塊 K80 的 GPU 可能就是四到五萬元，而百度這樣的企業可能會買 2000 塊來搭建超大型集群伺服器，大概就是 8000 萬到 1 個億的價格。而 GPU 跑起來功耗特別大，可能高校連付電費都會覺得很吃力。

「高校的優勢其實在於能夠看得更長遠，在國家的支持下可以做更長遠的前沿研究與布局。我們一直認為，如果某領域企業開始強力介入了，高校最好就放棄吧，應該去做一些企業目前不太關注的，更具前瞻性的研究，比如量子計算，甚至是自主飛行的機器人。我自己感到的是一種強烈的危機感：全世界的頂級跨國企業都進入人工智慧領域來了，其實國內高校並沒有什麼優勢。我認為，除非高校自己在體制機制上有了更大的創新（比如通過建立國家實驗室），否則與谷歌、Facebook 等跨國企業的差距會越來越大。如果能有類似谷歌、 Facebook 這樣量級的大公司牽頭中國人工智慧的發展，我覺得中國的人工智慧才能看到引領世界的明天。」

這種境況也催生了學術圈的兩種主流去向：一種是直接跨入產業界，如多在互聯網公司研究院同時涉足產業與學術研究，以 NYU 大學教授 Yann LeCun 加入 Facebook 為代表；另一種則是學術界，產業界雙棲的代表，比如山世光去年創辦中科視拓。在鄧教授的想法中，他個人比較看好第一條道路，畢竟注意力的集中有利於研究的專註性。「你想什麼都得到的話，實際上可能什麼都得不到。」

但他也指出，目前包括谷歌、Facebook、微軟及百度等在內的一些跨國企業同樣提供了非常良好的學術研究環境，早已成為國際頂級人工智慧會議的主角，這可以算得上是產業界通過學術研究回報與影響世界的典範。國內企業的優勢在於更大規模的應用場景和可能擁有的大數據，特別是目前商業模式的創新與落地速度很快，再加上政府的支持力度很大。但人工智慧原創性的演算法在國內一向非常鮮見，按鄧教授的理解，現在國內大部分的學術研究都熱衷於對原創模型進行修修補補，「刷紀錄」或稱「刷數據」。目前的研究氛圍總體上還是比較急功近利和浮躁，缺少大的理論與方法創新。

現在人工智慧雖然很火，但還是處於剛剛起步的階段，有很多問題需要解決。但學生是否願意耐得住寂寞坐冷板凳，即使在幾年內沒有研究成果還會堅持下去？鄧老師認為，最重要的還是學生的興趣。「科學研究本身就是一種興趣，所以同學們如果真的對人工智慧感興趣，那麼可能真的是廢寢忘食，而不是別人拿錢催著你走。」至於對做研究的同學有何建議，鄧老師覺得可以儘早跟著老師去做一些科研類的項目，「站在前行者的肩膀上」，趁著年輕多出創新性強的論文。

但對於你我這樣的普通人而言，需要怎樣擁抱變化？「我們生活在三元空間里，一個是物理空間，一個是信息空間，再一個是人類社會。天天湧現那麼大的數據量，肯定是要進行數據自動化的，而目前剛好出現了（弱）人工智慧技術對它的支撐。人類文明不斷進步，很大程度上也是因為環境發生了變化。人類已具有自動適應環境變化的能力。人工智慧的進一步發展勢必優化、補充和取代許多僅需簡單腦力勞動的職業，但一定會產生新的工種出來。馬車時代對汽車問世的擔憂，沒有必要，同時也不以人的意志為轉移，那我們就順勢而為吧。」

而如果你不想被動地接受這樣的變化，想在人工智慧浪潮里有所作為的話，一起和雷鋒網從鄧教授本周末開始的深度神經網路課程開始學習，或許是一個不錯的選擇。

卷積神經網路早在1975年就被提出，而在1995年被正式命名，又在2012年因Hinton團隊ImageNet大賽奪冠而聞名，2016年的阿爾法狗更是將人工智慧推上了高潮。鄧志東教授從事包括深度神經網路在內的人工神經網路研究25年，在清華授課20餘年，他在一線教育上感受到的人工智慧發展比我們更加洶湧。

在本次課程中，除了基礎課程理論：生物神經系統，人工神經元模型，BP網路，Hopfield網路，更為寶貴的是，你還將聆聽鄧教授25年專研背後所經歷的AI洪流和他自身的經驗分享，教你讀懂人工智慧發展歷史，教你如何上手編程實操，教你避開哪些AI的坑。如果你足夠勤奮，你還能聽到深度卷積神經網路如何在無人駕駛領域應用。鄧教授做了8年無人駕駛研究，難道我會告訴你？

如果你對人工智慧有興趣想轉型，如果你有一定的數學和編程基礎，或者對自身的學習能力有信心但需要一個引領入門神經網路的導師，又或是想一窺人工智慧究竟如何落地的？歡迎來報名。