Yann Lecun CoLR演講全解讀：機器該如何像動物和人類一樣有效學習？

知識 11-17

本文為Yann Lecun在CoRL 2017大會上做的演講的概述，雷鋒網作為受邀媒體參加了CoRL大會，所有資料來自於官方公開資源整理。

Lecun為Facebook AI研究院院長，他同時也是紐約大學的終身教授。他因著名的卷積神經網路（CNN）相關的工作而被人稱為CNN之父。在演講中，Lecun回顧了其早期利用神經網路用於機器人的研究做了一個基本的介紹，在當時Lecun的論文被RSS拒稿，然而今天CNN卻在人工智慧領域大放異彩，新技術的發展往往是螺旋式的發展，然而卻又能帶來驚人的變化，實在難以預料。

接著Lecun重點講解了他的成名作——卷積神經網路（CNN），並分析了阻礙人工智慧繼續前進的因素，在他看來，現在的人工智慧系統距離真正的人工智慧相去甚遠，要想讓機器像人或動物一樣有效學習，需要更好地就無監督學習上繼續研究，並討論了利用對抗網路進行無監督學習的重要性。

Lecun的演講標題是：《機器該如何像動物和人類一樣有效學習》？

Lecun先從今年9月的CCN（Cognitive Computational Neuroscience，認知計算神經科學）大會上，MIT的認知計算專家Josh Tennenbaum的一句話說起：我們現在看到的所有AI系統都不是真正的AI。這是因為，大腦的學習效率比我們目前所有的機器學習方法效率都要高：監督學習需要大量的範例，增強學習需要上百萬次試錯，這也是我們的機器人無法像貓或老鼠一樣靈活、以及無法造出擁有常識的對話系統的原因。

我們可以通過強化學習訓練機器識別如桌子、凳子、夠、汽車、飛機等實例，只要我們有足夠的計算能力和訓練樣本，機器業能識別出之前未見過的東西。

Lecun還比較了傳統的模式識別方法、改進的模式識別方法、深度學習的不同。

從2013年到2017年，從VGG到DenseNet（這也是Facebook用於圖像識別的網路結構），深度卷積神經網路變得越來越深，識別效果也變得越來越好。

而在Lecun將機器學習應用於機器人的研究在2003年，當時DARPA找到Lecun，通過模仿學習進行避障的研究。2005年，Lecun將論文投給了第一屆RSS（機器人領域的頂級學術會議之一），但很不幸的被拒了，隨後Lecun將論文轉投當年的NIPS，論文被收錄發表。而這一研究的階段性成果也打動了DARPA，並催生了之後的DARPA LAGR項目（這麼說來，Lecun在機器人方面的研究天賦是不是被RSS耽誤了呢）。

DARPA LAGR：一個將機器學習應用於地面機器人、基於感知的自主導航項目。

Lecun在機器人上使用了一個叫ComNet的網路，在當時算是非常前衛的做法。

當時的識別效果，在地圖上設定終點後可自主進行路線規劃。

然而，每秒只能進行一幀圖像的識別，無法有效躲避突然出現的行人。

若干年後的另一個研究，將視頻中的場景識別為不同種類，如道路、汽車、建築等。當時還缺乏對應的數據集，需要進行大量的標註。由於缺乏數據，這並不是卷積神經網路的強項，只是相比其他方法來說算是一個不錯的選擇而已（直到2012年ImageNet上的突破）。

2012年在FPGA上跑到20幀，這也推動了之後如Mobileye和NVIDIA在無人駕駛上的研究。

其他的應用，如將Mask R-CNN用於實例分割；

Mask R-CNN在COCO數據集上的圖像分割結果。

以及姿態預估的結果；

3D語義識別；

用於翻譯；

視覺推理中的推斷和執行（雖然Lecun懟過Jurgen，但不得不說LSTM還是很有用的嘛）；

諸多的用促成了FAIR的諸多開源項目（Lecun說，這裡大多數項目自己沒有參與，他只是在說別人的研究工作）；

展望未來，Lecun認為阻礙人工智慧繼續前進的因素在於目前我們打開AI的方式不正確，像人或動物都無需大量的標識數據或者大量試錯；

這當中的差別在於「常識」，就是通過想像來填補空白的能力，這也是某種形式的非監督學習。

大多數人或動物的學習方式都是非監督學習。

人類具有通過觀察形成常識的能力，例如「Josh拿起包離開了房間」，我們人類很容易理解相應的行為，但很難教機器去理解這一系列動作；

從認知科學的角度，人類在嬰兒時期學習到各種概念的時間表；

為什麼下需要進一步發展非監督學習？這是由於用於訓練一個大的學習機器的必要樣本量取決於我們要求它能預測多少信息，你對機器要求越多，所需要的數據也越多。在人類大腦中有10^14個神經元觸突，而人的一生大概有10^9秒，這意味著在人類大腦這個系統中參數遠遠大於數據量，而機器想要趕上人類，必須模仿人類的非監督學習方式。