李飛飛團隊最新跨界研究：神經任務編程NTP，讓機器人具有強大泛化能力

雷鋒網按：9月26日，在溫哥華舉行的IROS大會上，計算機視覺專家、斯坦福AI Lab&Vision Lab主任李飛飛做了「A Quest for Visual Intelligence」的演講，這也是李飛飛首次參加IROS這一機器人為主題的大會。值得注意的是，近日雷鋒網在Arxiv發現了一篇講述新型機器人學習框架的論文《Neural Task Programming: Learning to Generalize Across Hierarchical Tasks》，該論文的主要作者來自於斯坦福，其指導教師正是李飛飛及其丈夫Silvio Savarese。這也標誌著人工智慧和機器人兩個社區在視覺與感知方面的重合度越來越大，之後的合作也會越來越緊密。

下面雷鋒網和大家來一起看這篇論文。

摘要： 在本論文中，我們提出了一種名為神經任務編程（NTP）的新型機器人學習框架，該方法可以通過較少的示範和神經程序引導進行學習。NTP可將輸入的規範性任務（例如任務的視頻演示）遞歸地將其分解成更精細的子任務規範， 這些規範被傳遞到分級神經程序，通過可調用的底層子程序是與環境進行交互。同時，我們在三個機器人操縱任務中驗證了我們的方法，在試驗中，NTP展示了在顯示分層結構和組合結構的順序任務的強泛化能力化。 實驗結果表明，NTP在學習長度不定、可變拓撲和不斷變化的未知任務的學習和拓展有較好的效果。

自越來越強調「人機協作」的今天，機器人通常在某些特定環境中與人進行長時間的交互，如物體分類、裝配、和清理等。但是以往的機器人通常需要在固定的場景下才能與人交互，如何讓機器人能適應複雜的操作任務、新的任務目標和周圍環境，則是機器人技術中的一個重大挑戰。

設想一個倉庫中的物體分類任務，這通常包括分類、檢索、打包等具體任務，每個任務又可以分解為若干個動作，如抓取、移動、放下等，這些動作構成了如抓取和放置等子任務，如果在考慮到不同的對象、排序、子任務的排列組合，當中的變化將會非常複雜，例如，將四類物品分類放到四個容器中，這當中的組合會有256中之多。本文中，我們希望解決複雜任務規劃的兩個主要挑戰，即a）從新的概念化到新的任務目標的學習策略，以及b）與長期環境交互的基本原生代碼模塊的組合。

NTP的關鍵基本思想在是跨任務學習和與共享域中的可重用表示。NTP對一個描述任務過程和最終目標時間序列的任務規範進行解釋，並將其分層策略實例轉化為一個神經程序。NTP從輸入規範中解碼生成任務目標，並將其分解為子任務並與周邊環境進行交互和反饋直至搭成目標，每個程序調用環境觀察和任務規範（輸入），並輸出下一個子程序和相應的子任務規範。

如上圖所示，在給定輸入、任務規範和當前環境的情況下，NTP模型預測需要運行什麼樣的子程序，並作為下一級子任務的輸入，並判斷當前程序是否結束，否則將繼續循環執行任務 。

該研究團隊通過對模擬和實際機器人實驗中的單臂操作任務模擬對NTP進行評估。任務包括：堆疊方塊，目標分類和清理桌子。

該研究的兩個目標：I. 在同一個域中學習多項任務；以及 II. 通過單一例子形成在測試中的泛化能力。

如圖所示，機器手可從模擬的Demo環境（包括圖像、視頻、VR輸入）中進行學習並完成積木的堆疊；

NTP編程：通過分級的任務條件輸出策略歸納程序，調用Robot API進行操作。

上圖展示了在堆疊方塊任務中 NTP 的樣本執行軌跡圖。任務是按指定要求堆疊字母塊，頂層程序作為輸入參與整個演示，預測下一個運行的子程序，並為特定輸入作為指定任務的一部分，底層 API 調用機器人作出相應的動作（如Move_to(Blue)、Grasp(Blue)等）。當程序結束符（EOP）為 True，當前程序停止並返回其調用程序。

如果環境發生變化（如人為破壞已完成的任務），機器人會探測到環境的變化並重複任務。

任務結構的變化包括：改變完成條件（任務語義），可變子任務排列（任務拓撲）和更大的任務量（任務的長度）。隨著任務數量的增加，NTP可以為新的任務師範及目標生成更好的結果。

完整演示視頻見：

類似的研究還有雷鋒網之前介紹過的BAIR《One-Shot Visual Imitation Learning via Meta-Learning》的論文，都是通過一次性學習形成的泛化能力讓機器人快速掌握新技能。相比之下，BAIR的論文更偏於演算法的迭代改進，而Visual Lab的研究則從任務結構出發提出了一種新的學習框架。雷鋒網認為，雖然李飛飛團隊之前的研究更多是在計算機視覺領域，但正是如此，才有可能從機器人領域研究者習慣的視角外去思考問題，這篇論文提出的新思路也值得機器人研究者注意。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！