Facebook田淵棟：快速迭代的人工智慧

科技 06-12

人工智慧學家

田淵棟知乎專欄

田淵棟，Facebook人工智慧實驗室研究員，下面是他對人工智慧現有發展的看法：

本來我們這領域步調就快，因為雜誌論文的內容滯後，大家都看會議論文，一年兩三個頂會，半年一年的研究周期。

但因為是雙盲評審，就算有別人和自己做得相近，投稿時也是兩不知曉，大不了同時中稿同時發文。Arxiv的出現，允許任何人將自己的工作發表在網上，讓同行們即時看到，讓這一領域的競爭變本加厲。一個例行的功課是每周甚至每天都要刷一下Arxiv看看有沒有好文章，更重要的是看看有沒有工作和自己目前正在做的重合。每當有一個新想法新思路，必須得馬上做完，只要拖一兩個月就不再是你的了，因為別人已經捷足先登，直接放篇文章出來把你一悶棍打死，叫也叫不出來。之前的計算機圍棋已經血淋淋地展示了這一點，一切在幾個月內發生，我們讓其它做圍棋的同行們鬱悶，然後Alpha Go又讓我們鬱悶，昨天還是眾星捧月，今日便少人問津，雖說是世態炎涼，卻正是人之常情。

程序和框架的開源也加劇了這一過程，本來重現別人的方法不僅痛苦更是耗時，但現在都是拿來即用，各項成本為零。而想要保持領先優勢，隱藏自己的小技巧小把戲那是沒有意義的，一年發表的文章多如過江之鯽，誰不開源或者晚開源，誰就被遺忘在歷史的角落裡了。去年NIPS大家都在談論Res Net，我們組在Res Net出來的24小時之內寫完了程序並且已經開始了在Image Net上的訓練，並且很快確認了它的效果。Tensor Flow剛剛開源，組裡的骨幹就忙到凌晨三點半完成了評測。大凡說自己的工作厲害卻不發布程序的，除非像AlphaGo那樣動用大量硬體資源的系統，不然自會有人評判，而且速度飛快。有一次有一篇Arxiv報告了CIFAR更好的結果，馬上在Reddit上被人質疑，然後公開代碼，被人發現在測試集上訓練的低級錯誤，只得黯然撤稿。

接鍾而來的是開會的味道也發生了變化。開會的原意，是去領略最新進展的，現在去開會則是懷舊，滿眼都是半年一年前的老文章，有一種穿越回去的即視感和莫名喜感。大家談論的往往不是目力所及的演講或是海報，而是剛剛在Arxiv上冒出來的新作，這個「剛剛」，可能指上周，可能指昨天，也可能指幾小時之前，方才還為小小的成果而沾沾自喜，轉眼間就如一桶冰水當頭澆下，魂不守舍，夜不能寐，食不知味。相比其它方向動輒半年一年的審稿周期，迭代之快，更新之速，史無前例。我有時候在想，以後除了餓醒胖醒春夢醒，還要加個Arxiv醒，夢見自己的神思路被別人做了，或是夢見投稿前幾天遭遇當頭棒喝，大汗淋漓之下猛然醒來，而後抹一把臉謝天謝地。

在這樣的壓力下，人的思維方式也發生了改變。目前為止，我們還沒有對深度學習有深層次的本質理解，大量的研究思路都是簡單粗暴的，在計算資源極大豐富的今天，對於它們質量的主觀判斷，經常遠不及寫代碼上機實驗來得快與准。很多想法不論對錯，不論它看起來有多離譜荒謬，先試一下再說，往往蒙得比想得快，動手比動腦快。和我們每天刷手機類似，思維方式的這種轉變是好是壞，目前還無從評判。這樣的做法，完全可以歸入浮躁和急功近利之流，與傳統學術做法背道而馳——但與口舌之爭相比，這樣的方案還在不斷地出成果，推動著技術的進步，做成更好的系統。我們可以一邊抱怨谷歌機器太多調參太猛，另一邊還在準備著大量GPU雄心勃勃地上戰場。不管怎樣，可以預計的是，憑一人一紙一筆去戰勝難題，令人敬仰卻鮮有效率；而讓計算機參與推理過程和判斷，終會成為每個人生來的必修課。

從這個趨勢上來看，能快速利用各種工具達成目標的，能快速閱讀及寫出代碼的，有強大工程能力的，在就業市場上都有巨大優勢；若是再有基礎紮實，能快速讀懂文章，從中獲取新知識並舉一反三，經驗豐富，看文能抓住要點痛點下手，從紛繁想法中修剪思路，那就是老手了；再上一層，有戰略眼光，能從萬千文章中看出大勢遠景，巧妙定題，以最小代價獲取最大收益，那就是一流高手，能站在前沿火線，直接推動領域的發展。然而要做到這一步，需要在這樣的快速迭代中靜下心來積累經驗，日久方能見效。

人工智慧火爆的背後，是多少天才你來我往的戰鬥，在這個高維空間里攻城拔寨，刺刀見紅。雖然累點苦點，卻正是這個領域的誘人之處和希望所在。與苦與累相比更可怕的，是舒適安逸時卻因技能陳舊而被解職，徘徊天地間，無處可去。我無法想像那種絕望感，所以還是緊追時代的腳步吧，至少我們還能看見技術發展的軌跡，為它出一份力。在這個領域裡，只要工具運用得當，思路巧妙，每個人都有成為超人的潛質，一個好演算法好框架可服務千萬人，且24小時工作，不會出錯，不會疲勞，這在以前完全不可想像。正所謂：

靈工巧技匯涓流，奔騰到今浩無垠；

誰料硅砂一捧土，更勝周郎百萬兵。

人工智慧學家Aitists

人工智慧學家是權威的前沿科技媒體和研究機構，2016年2月成立人工智慧與互聯網進化實驗室（AIE Lab)，重點研究互聯網，人工智慧，腦科學，虛擬現實，機器人，移動互聯網等領域的未來發展趨勢和重大科學問題。

長按上方二維碼關注微信號 Aitists

投稿郵箱：post@aitists.com