谷歌大腦科學家Hugo LaRochelle：不要為AI劃定邊界

選自：Gigaom 編譯：網易智能 參與：nariiy

本期對話嘉賓是谷歌大腦的研究科學家、機器學習專家、副教授Hugo LaRochelle，他專攻計算機視覺和自然語言處理領域的深度神經網路。

人物觀點：

智能的概念是難以捉摸的，有一個現象我們稱之為人工智慧效應（AI effect），即每當我們達到人工智慧的新水平時，指人工智慧在某一特定任務上有優異表現，我們通常會認為這不是人工智慧。

智能並不是黑人或白人的區分，它實際上是一個範圍，在實現真正的人工智慧之前，我不太願意把它限定在一個特定的邊界。

我對人類大腦研究的這十年

問：首先從您的角度和理解給我們講講什麼是機器學習和神經網路？

Hugo LaRochelle：機器學習是計算機科學與人工智慧的重要分支領域，我們的興趣在於設計能夠讓機器學習的演算法或程序，並且這是基於我們希望機器能夠主動獲取知識，而不是通過人工編碼來習得知識，這就是機器學習，有很多不同的方法可以讓機器學習了解世界，學習如何完成某些任務。

在機器學習中，有一種基於人工神經網路的方法，這種方法更接近於我們的大腦，趨近真正的神經網路和真正的神經元，人工神經網路是受動物中樞神經系統啟發的計算模型，某種意義上說，這些演算法可能與真正的生物神經元工作機制尚存有差距，但我想，很多機器學習研究者，尤其是深度學習領域的研究者從中獲得了啟發，即大腦是真正的生物機器，它正在執行一些演算法，並且想要知道這個演算法是什麼，因此，大腦在我們設計自己的人工神經網路中的功能機制是什麼的時候，我們試圖從中獲得靈感，同時將機器的工作原理以及其與生物神經元的不同之處考慮在內。

在人工神經網路中，有一個基本的計算單元，就是人工神經元，你可以這樣想，例如，我們有連接到視網膜的神經元，所以，在機器上我們有一個神經元可以連接到計算機上一些圖像的像素值，並作為輸入，在人工神經網路領域，很長一段時間以來，我們有這樣的神經網路，其中大部分是單層神經元——因而多個神經元試圖檢測不同的模式，比如說，圖像是我們可以在十年前或更早的時候以成功的方式進行訓練的最複雜的人工神經網路，當然也有例外。

但是在過去的十年里，設計學習演算法方面已經有了發展，其被稱為深度神經網路，這些神經網路具有多層神經元結構，就像我們的大腦有各種各樣的大腦區域彼此相連，比如說，光線如何在我們的視覺皮層中流動，它如何從視網膜流向大腦皮層的各個區域，在過去的十年中，人們在設計學習演算法方面取得了很大的成功，這些演算法都是基於多層人工神經元的人工神經網路，這是我在過去十年里一直在做的研究。

問：人類基因組大約有725 MB數據量，但其中的大部分我們與地球上的植物以及其他生命共享，如果你關注賦予人獨特性的那部分，可能是10MB，這是否意味著實際上可以創建一個AGI（通用人工智慧）？

Hugo LaRochelle：也許我們可以在生物學和人類智力之間建立平行關係，我並不是生物學方面的專家，以至於能夠做出這樣的表述，但我想，在我研究的方式中，不僅僅是看到我們是智能生物的事實，以及我們的智力本質上來自我們的大腦，也不僅僅是從大腦中獲得一些啟發，我主要是從數學或統計學的角度設計學習演算法來推動我的研究，試著思考這個問題的合理解決方法，以及我如何用類似像人工神經網路的方式來實現它，我相信一些人對我們在多大程度上能從生物學中獲得直接的啟發有更好的想法，但是除了我剛才描述的那些高層次的啟發，我的工作動力和研究方法從數學和統計學中獲得了更多的靈感。

問：你如何定義「智能」?

Hugo LaRochelle：至少在思考我們想要達到的目標方面，有兩種思想流派，其一是我們想要達到最接近完美的理性，還有另一種方式，就是要獲得一種與人類相似的智力，從某種意義上說，作為人類，我們可能不會真正地在計算機或其他人之間做出區分，比如說，在與機器交談或觀察它完成某一特定任務的能力的時候。

很多機器學習都是建立在模仿人類的基礎上的。從這個意義上說，我們收集數據，這些數據，如果被標記出來，通常是由另一個人或其他團體產出。我認為這兩個定義並不是不相容的，而且似乎共有特徵部分本質上是一種計算形式，並不是你自己編寫代碼就能夠很容易地編碼。

與此同時，有趣的是，也許有證據表明這種智能的概念是難以捉摸的——有一個眾所周知的現象我們稱之為人工智慧效應（AI effect），即每當我們達到人工智慧的新水平時（人工智慧在某一特定任務上有表現），我們通常會認為這不是人工智慧，而我們現在感興趣的另一個新問題是人工智慧。國際象棋有點像這樣。在很長一段時間裡，人們會把下棋當作一種智力的形式。但是一旦我們發現我們可以很好地把它本質上當作一個樹形搜索程序，然後一些人就會開始說，「那不是真正的人工智慧。」現在有了這種新的分歧，下棋不再是人工智慧了。因此，要確定這一點是非常困難的。目前，我想說的是，每當我想到人工智慧任務時，其很多功能本質上都是在某一特定任務上匹配人類的表現。

「我們不要試圖為人工智慧劃定邊界」

問：你認為圖靈測試作為一種基準是否有價值？

Hugo LaRochelle：我認為這是有價值的，從一定意義上說，如果我們為目前沒有解決的方案定義一個特定的圖靈測試，我認為嘗試是有價值的，之後測試成功實現。我認為它有一定的價值。

在某些情況下，人類也可以做其他事情。所以，你可以說，如果有人與AlphaGo比賽，但最初並沒有被告知是AlphaGo——儘管，有趣的是，有些人認為它使用是最好的棋手都不一定會自然地考慮到的策略，你現在可以認為如果你和AlphaGo對抗，你將很難確定這不僅僅是一些圍棋專家，至少很多人是不會這麼說的。但是，當然，AlphaGo並沒有真正對自然圖像進行分類，或者它不會與人對話。但是，我肯定會說，試圖解決這一特殊的里程碑對於我們針對越來越多的智能機器的科學研究是有用的。

問：圖靈規則是「你是否能分辨出與你對話的是一台機器還是一個人？」圖靈認為如果有超過30%的測試者不能確定出被測試者是人還是機器，你就測試通過，為什麼不是50%呢？

Hugo LaRochelle：我認為智能並不是黑人或白人的區分，就智能或非智能而言，它實際上是一個範圍，騙過某一個人，不僅僅指真正的人類，使其將機器誤判斷為人類，這意味著什麼？思考這個問題是一件很有趣的事情，我想我不確定我們是否到達這個程度，如果我們可以實現到這種程度，那麼這可能更像是評估本身的一個缺陷，從某種意義上說，推測來看，這很像我們現在有的對抗網路（adversarial networks）或者對抗樣本（adversarial examples），所以我們有方法可以讓一個特定的測試產生誤判斷或無法識別的結果，我想這可能是對這一點的反映，但是，我認為智能是一種範圍，在我們實現真正的人工智慧之前，我不太願意把它限定在一個特定的邊界或者我們必須會面對的障礙上。

問：那您如何理解圖靈測試的真正意義？

Hugo LaRochelle：通常，如果你和一個非機器學習或人工智慧領域的人交談，他們經常會問，「我們離能夠像我們那樣處理很多事情的人工智慧尚存在多大的差距？」這是很難預測的問題。所以通常我說的是我不知道。

有一點我覺得我們不經常追溯的是，如果你看的一些人工智慧研究人員的引述，在當下人們對人工智慧的前景感到非常興奮的時候，很多這些引述實際上是類似於今天我們聽到的一些事情。所以，知道了這個，並且注意到我們不難想出一個特定的推理任務，我們並不能像我們想像的那樣簡單地解決它，我認為這只是表明我們在實現一個真正的人工智慧方面還有很長的路要走。

人類什麼時候才能建立起通用人工智慧？

問：你是否相信，當演算法方面以及處理器上有了足夠的進步，以及擁有數據收集後，我們走在一條實現通用人工智慧的直線道路上？

Hugo LaRochelle：這是我所懷疑的，至少有一個或者可能是很多技術突破，不僅僅是計算機變得更快或者收集更多的數據，這是必需的。舉個例子，我認為這不是計算能力的問題，而是這樣一個問題，「我們沒有合適的程序，我們沒有合適的演算法」，這種演算法能夠匹配像我們人類那樣用很少的、引用的數據或人類經驗來學習某些概念的能力。舉個例子，如果你給我看同一物體的很多圖片，我可能會在更多的圖片中辯識出那個物體，僅僅是一些那個物體的圖片而已，也許只是一張，如果你給我看關於某個家庭成員的照片，接著你給我看更多關於你家庭合影的照片，我可能會認出那個人，且不需要你一次又一次地告知我，還有很多其他的東西我們可以從很少的反饋中學習。

所以，從本質上來說，這是從任務樣例中產生學習演算法，此外，更一般地，只從更高層次的角度來看學習是什麼，承認它在不同的尺度上起的作用，並且有許多不同的學習過程是並行的，而且是錯綜複雜的，因此，我認為研究這些學習過程應該如何在不同的尺度上發揮作用，可能是一個我們更需要處理並找到一個解決方案的問題。

問：有些人認為，在我們沒有理解意識之前，我們不能實現「通用人工智慧（AGI）」，意識是一種我們擁有的獨特能力，你是否相信意識在某種程度上是人類智能的關鍵？

Hugo LaRochelle：我還沒有真正地考慮意識與建立人工智慧的概念之間的關聯是什麼，但是，我想說的是，注意力（attention）的概念，例如，能夠集中注意力在各種事情上或者增加尋找信息的能力，這些都是很明顯的組成部分，目前，我想我們有一些相當成熟的解決方案，以一些限制性的方式，而不是更一般的方式運行，我認為信息搜尋（information seeking）仍然與檢索（exploration）和強化學習（reinforcement learning）的概念有很大的聯繫，這仍然是一個我們需要解決的很大的技術挑戰。

所以，關於我們意識的這些方面，我認為，其是程序性的，我們需要找出一些演算法來實現這些，或者學會從經驗和數據中提取這些行為。

問：你之前提及，從少量數據中學習，你認為，這是人類擅長無監督學習（unsupervised learning）的一個例子嗎？孩童時期你會學到"這是一隻狗，這是一隻貓"，這是監督學習。但是你說的是，「現在我可以在低照度下識別它，我能從後方認出它，我能在遠處認出它。」人類在做的是一種無監督的學習嗎？

Hugo LaRochelle：從定義上講，無監督學習是一種非監督式學習。這是一種不使用監督學習的極端。舉個例子，有一個程序，一個學習演算法可以，例如，看數百個字元的圖像，並且能夠理解這些字元圖像中的每一個像素都是相關的。它們是更高級的概念，解釋了為什麼這是一個數字。例如，有筆劃的概念，一個字元實際上是筆劃的組合。因此，無監督學習將嘗試能夠僅僅從觀察圖像、從這些像素之間存在相關性的事實中，它們看起來不像一個隨機的圖像，而且與任何隨機的像素組合相比，像素以一種非常特別的方式排列，提取出更高級的概念，如筆劃和手寫字元，在更複雜、更自然的場景中，這將是識別不同的對象，而不必對每個對象進行標記，因為真正解釋我看到的是有一些不同的物體有特定的光和場景相互作用等。

這是我研究過的一些東西，我確實認為人類正在做一些這樣的事情，但同時，我們也可能是處於嬰兒階段，我們在與我們的世界互動，我們在探索它，我們很好奇。這就開始了，離純粹的無監督學習還有一點距離，更接近於我們的強化學習（reinforcement learning），所以，我可以實際操作我所處的環境，從中我可以了解它的屬性，什麼是事實，什麼是這個環境的特徵？

還有一種更受監督的學習方式，我們在自己嬰兒時期能夠看到，並沒有被純粹的監督學習所覆蓋，這指代能夠交流或者從他人的反饋中學習，所以，我們可能會模仿別人，這更接近於監督學習，但我們可能代之會得到一些措辭上的反饋，所以，如果父母說做這個或者不做那個，這不是一個模仿，這更像是一個交流，關於你應該如何調整你的行為，這是一種弱監督學習的形式，所以，如果我讓我的孩子做作業，或者我給他一些關於如何解決特定問題的說明，這不是一個演示，所以這不是監督學習。這更像是一種弱監督形式的學習，即便如此，我認為其在我們在已知的運行良好的系統中使用的並不多，目前人們使用的是對象識別系統或機器翻譯系統等。因此，我相信，這些不同形式的學習，比一般的監督學習更少受監督，這是我們仍有很多進步的研究方向。

問：關於人工智慧和通用人工智慧如何運作方面存在多種觀點，其中一方面是就像物質世界依據簡潔的法則運行，磁力是這樣，電力也是這樣，因而我們希望智力同樣是由我們可以習得的簡潔法則來掌控，在另一個極端把大腦看作是幾百個弱人工智慧（narrow AI）的聚合，其能夠給予我們至少是一般智能的一個很好替代，你同意嗎？

Hugo LaRochelle：我們可以舉一個例子，我認為在某種程度上對學會學習（learning to learn）和元學習（meta learning）的定義是，作為人類，我們是經過多年進化的結果。我想，進化是一種適應的形式。但在我們的生命周期內，每個個體也會適應其特定的人類經驗。所以，你可以把進化看作是一種類似於元學習的過程以及我們每天都在個人生活中學習的過程。

但即使是在我們自己的生活中，我認為我的大腦以很明顯的方式處於適應的過程中，在我從一個嬰兒成長為一個成年人的時間段中，以無意識的方式進行，我在以理性方式適應的過程中有許多方法，以有意識的方式，這依賴於我的大腦去適應能夠感知我的環境，我的視覺皮層正在成熟，因此，學習有多層結構並相互依賴，所以，我認為這是一個相當高的水平，但我認為這是一種有意義的方式，一種元學習的形式，基於這個原因，我認為研究如何學習學習系統，在這裡有一個有價值的過程，其告訴我們如何擁有更多的智能代理和人工智慧。

我對AI持樂觀態度，並且已經在與它和諧相處！

問：在媒體對人工智慧的報道中，即使沒有引入殺手機器人，只是討論人工智慧對就業和工作的影響，就會產生很多恐懼，你對未來的預測是什麼？人工智慧最終是否會像所有其他技術一樣提高人類的生產力？還是會對人類造成巨大的傷害？

Hugo LaRochelle：我把它看作是將我的日常生活自動化的一個機會，這樣我就可以用我生命中的這部分時間去做更有創意的事情、或者是讓我感到有熱情去做的事情、又或者是我更感興趣的事情。正因為如此，很大程度上，我認為人工智慧對人類來說是一項極好的技術，我注意到更好的機器翻譯所帶來的益處，其有助於讓世界上不同的地方溝通互聯，讓我能夠在學習和旅行中體驗不同的文化。或者怎樣才能使某些衛生工作者的工作自動化，這樣他們就可以把更多的時間花在那些可能沒有得到應有關注的更難的案例上。正因為如此，我個人的動機是讓生活中我們希望自動化的部分實現自動化，我對人工智慧的前景感到相當樂觀。

而且潛在的，當涉及到工作的時候，我們甚至可以想像自動化讓我們獲得更好的專業能力，當涉及到學習課程過程中的自動化，其中也產生很多機會，我們現在有很多在線課程，甚至是我在教學的時候，就在YouTube上上傳了很多資料讓人們學習。

從本質上講，我發現我在工作中所做的日常教學是重複性的，我可以單次記錄下來然後重複利用，轉而將我的注意力集中在花時間在學生身上，並確保協助每個學生消除其對特定主題的錯誤理解，因為學生普遍的心理模型難以把握，他們對這門課的某一方面會產生怎樣的錯誤理解，通常也難以預料。因而，你實際上希望花時間與該學生交流，並希望這種互動能夠覆蓋更多的學生。我認為這是一個例子，我們可以考慮將教育的某些方面自動化，從而讓每個學生接受教育方面獲得一種支持，並且讓每個人能夠擁有有意義的職業生活。因此，總體上我是樂觀的，很大程度上是因為我看到了自己未來使用人工智慧和開發人工智慧的方式。

問：我們已經有了令人難以置信的顛覆性的技術，如工業機械化、畜力替代人力、電氣化等，人類都使用這些技術來提高自己的生產力，從而提高收入，這就是人們生活水平不斷提高的整個過程，每一份新工作，每一件我們創造的東西，機器都會比人類更快地學會它，那樣的話，每個人都發現他們可以被替代，這有可能性嗎？以及如果這真的發生了，那將會是一件壞事嗎？

Hugo LaRochelle：對於整個社會來說，我認為這是一個很好的問題，也許因為我的日常工作就是與人工智慧領域取得進展所面臨的當前挑戰有關，我想我們觸及這個問題稍微有些早，因為科技領域尚存在很多挑戰，這似乎並不是僅僅讓計算機運行更快、收集更多數據的問題，因為我看到了這些挑戰，而且我看到科學界在過去幾年裡一直存有錯誤之處，而且過於樂觀，如果說我們曾能夠到達那個程度的話，在關於我們將多快能夠到達那裡的問題上，我傾向於不過分樂觀以及多一點保守。

就其對社會而言意味著什麼，如果這種情況發生的話，即我們在本質上可以實現普遍的自動化，遺憾的是，我不是一個經濟學家，我覺得自己尚不能夠對這個問題提出有一個有意義的看法，但我認為我們基於事實去討論它是很好的，這就是為什麼這是一個很難討論的問題，因為我們討論的是一個假設的未來，在很長一段時間內可能不會實現，但是，只要我們能夠理性地討論可能發生的事情，我就沒有理由不去討論這個問題。

問：體驗某事物（experiencing something）與知曉某事物（knowing something）是不同的嗎？如果事實上這是不同的，那麼我們就必須造出能夠讓其獲得體驗的真正智能的機器，而不是讓其僅僅知曉某事物。此外，體驗事物意味著你回到意識這個棘手的問題上面。我們不僅是地球上最聰明的生物，而且可以說我們是最有意識的生物。這兩件事在某種程度上是緊密聯繫在一起的。

Hugo LaRochelle：我想，除非這種體驗與你對這個世界的了解相矛盾，否則我認為它不會影響什麼。我認為，這在一定程度上是我們在開發人工智慧的前進過程中所遇到的一個挑戰。我們已成功開發出的許多人工智慧系統都是在模擬環境中開發的，比如下圍棋。在這種情況下，對於一個桌面遊戲來說，在電腦上模擬它很容易，因為你可以把遊戲的所有規則都寫出來，這樣你就可以把它們放進電腦里模擬了。

但是，對於像在真實世界的體驗和操縱物體這樣的體驗，只要這種模擬體驗與真實世界的體驗有所不同，觸摸真實的物體，我想我們將會面臨一個挑戰，那就是將我們在模擬環境中積累的智能遷移到現實世界中去。這在一定程度上與我們無法快速學習演算法的能力有關。相反，它們需要數以百萬計的重複或例子來真正接近人類所能做的。想像一下，讓一個機器人從操縱那個機器人的人那裡得到數以百萬計的標記，並準確地展示如何做每件事。這個機器人可能本質上在相當長的時間內學習地很慢，無法真正地在合理的時間內學習任何有意義的行為。

問：你認為遷移學習（transfer learning）在人工智慧方面會產生哪些作用和意義？

Hugo LaRochelle：我們看到了ImageNet數據集所帶來的成功，如果你在ImageNet數據集上訓練一個對象識別系統，它確實與計算機視覺領域的深度神經網路和卷積神經網路的變革有關。事實證明，由這些數據源訓練的模型可以完成很好地遷移，達到數量驚人的路徑。這極大地促進了計算機視覺的革命。但這是一種相當簡單的遷移方式，我認為有更精細的遷移方式，你需要先把你知道的東西拿出來，然後稍微調整一下。如何做到這一點而不忘記你之前學過的東西？所以，理解這些不同的機制需要一個共同工作的終身學習的形式，能夠在一項又一項的任務中積累，並用越來越少的經驗去學習新的任務，我認為這是目前我們沒有處理得很好以及需要去做的事情。

問：是什麼讓你對研究保有興奮？

Hugo LaRochelle：這是個很好的問題。當然，在我的日常研究中，我們如何能夠積累知識，機器如何積累知識，以及如何在很長的一段時間內，有序地學習一系列任務和能力，累積起來，我認為這是一件非常重要的事情。這讓我開始思考學會學習，因為我對於一些觀點保有質疑。實際上，一旦你學會了一個又一個的能力之後，做這件事的過程，以及把它做得更好的過程，事實上，我們做得更好可能是因為我們也在學習如何學習每一項任務。

問：你目前的工作圍繞著什麼？

Hugo LaRochelle：正如我所提到的，我對元學習（meta learning）和學會學習（learning to learn）很感興趣。我已經開始在這個主題上發表文章了，我仍然在思考關於元學習方法的各種新想法。同時也從弱信號（weaker signals）中學習，而不是在監督學習環境中。例如，從一個個體那裡學習措辭反饋（worded feedback）是我還沒有開始具體研究的問題，但我現在想了很多，也許這些是我肯定會鼓勵其他年輕研究者去思考、學習和研究的方向。（完）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！