對話 IJCAI 2019 特邀講者 Leslie Kaelbling：與 AI 和機器人結緣背後的故事（下篇）

雷鋒網 AI 科技評論按：IJCAI（國際人工智慧聯合會議，International Joint Conferences on Artificial Intelligence）是人工智慧領域歷史最為悠久，也是影響力最大的學術會議之一，隨著近年來人工智慧的熱度日益攀升，原本僅在奇數年召開的 IJCAI 自 2015 年開始變成每年召開。今年，萬眾矚目的 IJCAI 也將如約而至，將於 8 月 10 日至 16 日在中國澳門隆重召開。

特邀報告（Invited Talks）作為 IJCAI 最受關注的環節之一，隨著會議的臨近，特邀講者名單也在相繼公布中。機器人作為人工智慧領域的一個非常重要的研究方向，本次大會也特別邀請了機器人專家、麻省理工教授 Leslie Kaelbling 做特邀報告。屆時，她將帶來主題為《Doing for our robots what evolution did for us》的特邀演講。

Leslie Kaelbling 是麻省理工學院的機器人專家。 她在強化學習、規劃、機器人導航等人工智慧研究領域獲得了引人注目的研究成果，其中包括將運籌學中的部分可觀察的馬爾可夫決策過程應用到人工智慧和機器人中，曾獲得 IJCAI「計算機與思想獎」（Computers and Thought Award）等重要獎項，同時她也是人工智慧領域頗負盛名的《機器學習研究雜誌》的創始人兼主編。

近日，麻省理工學院教授 Lex Fridman 在其播客訪談節目《Artificial Intelligence Podcast》中與 Leslie Kaelbling 進行了對話。對話中，Leslie Kaelbling 不僅分享了她從哲學領域轉入計算機科學領域，並與 AI 和機器人結緣的背後的故事，還詳細闡述了其對於機器人發展歷程以及現狀的見解。

採訪視頻播放地址：https://www.youtube.com/watch?v=Er7Dy8rvqOc

雷鋒網 AI 科技評論將採訪視頻整理成文如下，全文進行了不改變原意的刪改。

（本文為下篇，上篇閱讀請前往：https://www.leiphone.com/news/201904/MCIWUjYZeOXYofuJ.html）

Lex Fridman：您認為感知和規劃哪個的難度係數更高？您如何看待通過了解周圍的世界來實現感知？

Leslie Kaelbling：我認為一個重要的問題是表示。近來，感知取得了很大的進展，我們可以用來分類圖像，玩某些類型的遊戲或者將其應用到駕駛汽車等等。我認為，我們對於應該提供怎樣的感知還沒有很好的思路。

關於模塊化，現在有一個很強烈的觀點表示，我們不應該創建任何模塊化，而應該創建一個巨型神經網路，並對它進行端到端地訓練使其完成任務，這才是向前發展的最佳方式。這個觀點很難反駁，除非在樣本複雜性的基礎上，你或許可以說，如果想要在在這個巨型神經網路上實現強化學習，就需要大量的數據以及許多類似損壞的機器人系統等。

對此也僅有唯一一個答案：我們需要在裡面構建一些東西（才能降低樣本複雜性的需求），比如構建一些結構、構建一些偏倚。從機器學習理論上來看，降低樣本複雜性的唯一方法就是以某種方式縮小假設空間——這可以通過內部的偏見來實現。我們有各種各樣的理由認為，自然界為人類內置了偏見。而卷積就是一種偏見，一種非常強烈、具有批判性的偏見。

所以我個人認為，我們需要尋找更多像卷積一樣，並且還能夠解決其他方面的推理問題的東西。在與成像非常相似的空間推理等問題上，卷積給我們帶來了很大的幫助。我認為，類似的其他想法，例如向前搜索、抽象概念以及目標等的存在都是非常重要的，但是人們往往不給這些想法萌芽的機會。

Lex Fridman：目標語義、目標空間中的類似於卷積的想法？

Leslie Kaelbling：是的，人們開始研究的圖卷積就是與一種關係表徵相關的想法。我認為對於感知，研究者們接下來要實現的就是更好地理解感知是如何產生的。之後，我們才能更好地知道要對輸出做什麼。但我們僅僅試圖去創建一個集成智能體，而實際上並不清楚感知的輸出應該是什麼，也不知道這些輸出怎樣和其他東西掛上鉤。因此，我認為現在迫在眉睫的問題就是，我們能夠創建什麼樣的架構，比如另一個能像卷積網路那樣允許我們在上面實現高效學習的真正非常厲害的架構。

Lex Fridman：您對於感知目前的發展現狀令人信服的描述，我也贊成。您在教授一門關於智慧的集成的課程，那您認為怎樣才能創建擁有人類智能水平的機器人？

Leslie Kaelbling：我不清楚我們到底是否知道該怎樣創建這樣一個機器人。

Lex Fridman：那您認為機器人需要擁有自我意識、知覺、倫理道德嗎？

Leslie Kaelbling：我沒怎麼考慮過機器人是否需要知覺這一問題，即便是大多數關注這個的哲學家都知道，我們可以擁有行為表現像人類但沒有知覺的殭屍機器人。在這個時候，我們會慶幸並不關心這個方面的問題。

Lex Fridman：您是否有從技術角度來思考過自我意識對於機器人的作用？

Leslie Kaelbling：但是自我意識到底意味著什麼呢？你需要實現的是讓某些系統的部分觀察系統的其他部分，然後告知我們是否運行良好，這是很關鍵的。它們是否具有自我意識，則取決於我們給「擁有自我意識」設定了怎樣的標準。但顯然，比如說某行代碼計算出程序執行的次數，這其實也是一種自我意識。所以這裡的邊界挺模糊的，可以要求很高、也可以要求很低，我們還在摸索一個合理的標準。

Lex Fridman：您在很多維度上都了解得很長遠，但是最吸引該領域研究者的一個研究方向則是讓機器人的智能達到人類水平。

Leslie Kaelbling：但是現在對於我來說，最有吸引力的研究方嚮應該是研究如何選擇把哪些東西構建在系統中、把哪些東西交給系統去學習。如果你問我多少年後機器人的智能可以達到人類水平，我甚至都不會參與這一討論，因為我認為我們錯過了很多想法，也不知道到底需要多少年去實現這一目標。

Lex Fridman：我不問您多少年後可以實現，但是我可能需要問，對於我們目前已實現的成就，您印象比較深刻的是哪個？您認為什麼才是不錯的智能測試？您認為面向機器人自然語言的圖靈測試等測試基準怎麼樣？是否思考過這些問題？

Leslie Kaelbling：我比較反對這些測試基準。我認為我們花了太多的時間在爭論哪些事情對於提高機器人的性能更好上。

Lex Fridman：測試基準、數據集或者圖靈測試挑戰其實可以將研究者們匯聚起來，激勵他們創建出表現更好的機器人，因為他們都希望在比賽中獲勝，例如自動駕駛領域的 DARPA 挑戰賽。您怎樣看待它們的價值呢？

Leslie Kaelbling：許多人都認為這些比賽是具有激勵性的，是很好的，但是我個人認為它們是反激勵性的。不過你們或許能夠獲得一段有趣的時期——一群聰明的人在比賽中獲得了超大的動力，並最大限度地發揮出腦力，有時候可能也會產生很酷的想法，可供我們事後咀嚼。這對我來說並不是一件好事，不過我也並不反對大家這麼做。

Lex Fridman：這就跟您之前所說的，某件事以外的所有其他事情都會讓它變得更好。下面我們跳過一些問題。您創立了《機器學習研究雜誌》（Journal of Machine Learning Research，JMLR）並擔任其主編，那出版這一期刊是基於怎樣的契機？您如何看待當前機器學習和人工智慧領域的出版模式？

Leslie Kaelbling：好的。我之所以會創立《機器學習研究雜誌》，故事源自於當時由 Kluwer 創立的叫做《機器學習》的期刊。當時我也是編輯委員會中的一員，我們常常會召開一些會議，向 Kluwer 抱怨，對於圖書館來說雜誌太過昂貴並且人們難以在上面發表文章。當時，我們真的希望為這部分人解決這些問題，不過其他人永遠只會表示自己的同情而會採取任何行動，所以我們就決定創立一份新雜誌。當時也有一份雜誌叫做《人工智慧研究雜誌》，這份雜誌也採取同樣的出版模型，並且以這一模型存在了 5 年左右的時間，也發展得非常好。

我猜想我們當時都並不知道怎麼創立一份雜誌，好在這件事情本身並不難。於是，《機器學習》期刊編輯委員會中 75% 的成員都從那裡辭職，來共同創立了這份新雜誌。

Lex Fridman：所以新創立的這份雜誌更加開放？

Leslie Kaelbling：是的，《機器學習研究雜誌》是完全開放的。當時我有一個博士後學生 George Kennedy 就想要呼籲這些雜誌免費向所有人開放。

由於《機器學習研究雜誌》既沒有版面費用，也沒有訪問限制，當時很多人都對這本雜誌心存懷疑，認為這是一場欺詐，覺得這是不可能發生的事情。運行這份雜誌期間，我在很長一段時間都沒有存款，因為需要支付合作律師和 IP 地址的費用，當時雜誌一年的運營費用大概為幾百美元，現在的花費可能更高些但是也沒有高很多。

之所以一切免費，是因為我覺得計算機科學家所具有的能力和自主性，是其他領域的科學家們所不具備的。我們教授們自己很熟悉這些技術，學生也熟悉，我們也認識那些有能力製作和破解網站的人，大家一起動手，一下午時間就能做一個免費開放的學術網站出來。所以基礎設施對我們來說不是問題，但對於其他領域的人來說就是比較難實現的事情。

Lex Fridman：所以這一訪問開放的期刊不需要聲望、也不需要任何其他論文也可以得以出版？

Leslie Kaelbling：事實證明，確實不需要聲望。

Lex Fridman：在很早之前，我不記得具體的時間了，當時我評論了一篇您也評論過的論文，記得當時讀到您評論說：這篇論文寫得非常出色，對您產生了較大的影響，並影響了您未來的評論方式。當時您並不贊成我的觀點，但是您將我的評論修改得更好了。這其實可以看出，當時雜誌的整個評論過程是存在缺陷的，您認為該怎樣才能改進這一過程呢？

Leslie Kaelbling：實際上，這份雜誌創立之初，我想要做一些完全不同的事情，但是最終沒有實現，這是因為似乎我們更需要的是一份傳統的記錄雜誌，所以基本上，我們把這份雜誌打造得跟一般的雜誌一樣，只不過對外開放訪問了。當然了，「出版」什麼東西現在越來越變得稀鬆平常，你隨便在哪個學術文本存儲網站傳一篇文章就算是發表了，並且對於所有的這些內容，我隔天就可以將它們進行出版。因此，將這些內容對外開放是沒有任何障礙的，不過我們依舊需要進行策劃以及評估，而我沒有時間去閱讀所有的檔案，一般認為出版社會公眾所稱讚的文章就足夠了。

這樣的話，你可以說我們不再需要任何期刊了，大家只需要把論文傳到學術網站上去，然後人們就可以上傳或下載論文，你的簡歷也就會顯示文章獲得了多少個稱讚。同時我認為期刊在仔細閱讀和評註方面也存在其價值。在 Twitter 或者 Reddit 上很難辨別讀者對論文是支持、否定還是爭議的態度，以及他們是否知道他們在談論的是什麼。所以我認為期刊的第二個目的是，判斷我應該重視那些觀點。

我不知道如果我有無限的時間，我是否也不會去做這些，因為我希望讓機器人來做這部分工作。但如果我覺得我傾向於在出版方向上做更多的事情，我會去實現我最開始想做的另外一件事情，那就是將我重視並且非常清晰的一些人的觀點匯聚起來，至於是對外公開還是私人保留，這個我不確定。我們可能不會出版所有的評論，僅僅將為非常出色的論文所寫的評論對外開放。

如果一些論文得到 Leslie 的朋友們的評論，並且論文觀點得到誇獎，論文作者也可以將其寫入簡歷中：Leslie 的朋友們給了我的論文打了五星好評。這就可以說明論文就跟雜誌所收錄的論文一樣出色。我認為我們應該將很好的評論對外開放，並以某種方式對這些評論進行組織，但當時我真的不知道該怎麼做。

Lex Fridman：其實您可以借鑒電影領域的互聯網電影資料庫（IMDb），那裡匯聚了電影評論員，他們會寫影評，不過資料庫匯中會定期更新非評論員寫的影評，這兩個部分是分開的。

Leslie Kaelbling：我喜歡公開評論，我認為了解這個過程很有趣。

Lex Fridman：這也許是推進論文評論的一個正確方向，但是可能仍然無法像評論電影或視頻遊戲那樣吸引人。這是我的個人觀點，可能聽起來有些愚蠢，但是執行評審的趣味和輕鬆程度取決於用戶界面，而作為一位評論家的效率，則意味著向一位優秀的評論家邁進了多遠，這些人為因素會起到作用。

Leslie Kaelbling：現在給論文寫優秀的評論是一項大投資，現在可以看到的論文數量非常多。每年有 3000 多篇新論文，雖然我不知道每年會新出多少電影，但是現在我認為數量要比每年新出的機器學習論文要少。

我是一個老年人，所以不可避免地會說現在的事情都變化得太快了，像陷在泥巴中一樣執著。我認為現在研究者們的眼光變得越來越短視，比如學生們想要發表大量論文，他們認為這樣才是令人興奮、有價值的事情，然後拍拍腦袋寫論文，諸如此類。雖然其中的一些工作成果是不錯的，但是我擔憂的是，這種做法會把那些花兩年的時間來思考某個問題的研究者逼走。

在我們那個年代，我們做研究並不發表論文，你可以花數年時間來研究論文，你可以選擇研究一個非常難的問題，然後花費大量時間來不斷研究、咀嚼這個問題，當你去寫作完成論文時，也會經歷一段艱巨的時期。我不認為每個人都需要按照這種模式進行研究，但是我認為現在也有一些難度非常高的問題需要研究者以更加長遠的眼光來從事這些問題的研究。然而我們現在完全沒有激勵研究者們採用這種研究方式，這是我所擔心的地方。

Lex Fridman：在目前的情況下，對於 AI 未來的發展您有什麼期望和擔憂？AI 已經經歷了多次寒冬、起起伏伏，您認為還會有下一次寒冬到來嗎？您是否對於創造出如您所說的機器人更抱有期待？

Leslie Kaelbling：我認為經歷這個周期是無法避免的，但是這個起伏的周期曲線實際上是一次比一次高的，就像你用一個有雜訊的優化器優化某個函數曲線一樣。顯而易見，機器學習的出現對於人工智慧領域的發展，意義深遠且重大，毫無疑問，目前人工智慧的發展是比之前更高的。當然，我也認為人們高估了人工智慧，吹的牛皮太大，投資者們最終會說，「當初說得那麼好聽，怎麼最後什麼都沒做到」。這些泡沫未來可能會破滅。但我覺得在實現達到人類水平的人工智慧的過程中是不可能一帆風順地一直向上的。

Lex Fridman：您對於 AI 所存在的威脅是否有短期或者長期的擔憂呢？或許短期的擔憂會比較少，但是關於將會有更多機器人替代人類工作的擔憂呢？

Leslie Kaelbling：我們可以探討一下效用問題。實際上我之前與一些軍事倫理學家有過一次有趣的交流，他們希望跟我探討自動核武器的問題。他們是非常有趣、聰明並且接受過良好教育的一群人，但是他們對於人工智慧和機器學習知之甚少。他們問我的第一個問題就是，你研發的機器人有做過什麼你沒有預料到的事情嗎？我情不自禁地笑出聲，因為稍微了解過機器人的人都知道，它們做不出來。而我意識到，他們對於我們怎樣對機器人編程的理解是錯誤的，他們認為我們對機器人編程就像給樂高的 Mindstorm 機器人編程一樣，執行前進一米、左轉、拍照這些動作。這樣的編程方式固然也是對的，但這種機器人如果做一些預料之外的事情，就有點奇怪了。

事實上，我認為這應該成為我一項新的教育任務，如果我需要跟非專業人員交流，我要試圖去教給讓他們理解：我們控制的其實是機器人中至少一個或多個層次的抽象，同時機器人還存在假設層，可以是規劃空間或者分類器空間，此外還有一系列答案和目標函數，然後我們使用一些優化方法，在各個層級優化解決方案，並且我們不知道最終產生的解決方案是什麼。我認為溝通這些非常重要，或許其中有一些人了解相關知識，但我還是認為這種溝通這門學科是必不可少的。

現在有很多人在探討價值對齊的問題，我們可以確定的是，當機器人或者軟體系統的能力越來越強時，它們的目標會與人類的目標更加一致，或者說二者間的目標會以某種方式互相兼任，也可以說當它們與我們有不同的目標時，我們也可以用一種很好的方式去進行調和。

因此我認為思考這些術語非常重要，比如說，你無需被機器人世界末日論所嚇倒，而是思考價值對齊的目標函數的重要性。每一位從事優化工作的研究者都知道，必須要謹慎考量最終期望得到的東西，比如說研究者們有時候可能獲得了最佳的解決方案，然而最終發現目標方向是錯誤的。

對於我來說，即便在最短時期內，務實也是至關重要的問題，任何一位從演算法工程師到目標函數工程師的研究者，這一問題都完全有可能發生，並且會改變我們的思維和方法論。

Lex Fridman：所以可以說，您的研究生涯始於斯坦福的哲學專業，現在又回歸到哲學中來。

Leslie Kaelbling：我在上課時也提到過，當機器學習研究者在設計目標函數時，需要「戴上兩個帽子」，一個「帽子」是他需要實現的目標是什麼；另一個「帽子」則是他的優化器能夠將優化實現到什麼程度，這都是需要考慮和衡量的要點。

關於機器人會取代人類工作這一擔憂，我能理解這件事情非常重要，但我不太了解社會學、經濟學，也不是很了解人類，所以我不知道該怎麼看待這個問題。

Lex Fridman：確實，這個問題涉及到社會學和經濟學的方面，很難去講清楚。

Leslie Kaelbling：雖然這個問題並不是我的專長，但我還是認為人類思考這個問題很有必要。

Lex Fridman：您認為對於人工智慧領域以及您自己而言，短期內哪個領域的研究會是最令人興奮的？

Leslie Kaelbling：我之前講述過如何設計智能機器人的事情，智能機器人是我們這個領域中大部分人都想要實現的目標，而大家面臨的問題則是，機器人怎樣實現最高效的策略？我們可以嘗試很多不同的極端方案，其中一個非常極端的方案就是做內省（Introspection），然後編程，這種方法現在的表現還不是很好；另一個極端的方案是我們採用了一大堆神經網路，然後訓練它們去完成任務，我同樣也認為這個方案無法奏效。

在這個過程中面臨的一個問題就是找到中間立場，這個問題同樣也不是技術上的問題，僅僅是關於怎樣找到最佳實現方法的問題。對於我來說，它很明顯是學習和非學習的一種組合，需要考慮的怎樣構建這個組合的內容。這也是對我最具有吸引力的一個問題。

Lex Fridman：最後一個問題是，在科幻小說中，您最喜歡的機器人是哪個？比如說《星球大戰》中的 R2D2 機器人或是更加現代化的 HAL 機器人。

Leslie Kaelbling：我個人更加關注的是研究機器人的過程。實際上我研究機器人是因為這個研究方向很有趣，而並不在乎我能夠研發出怎樣的機器人。

Lex Fridman：今天這場美麗的對話就到此結束了，非常感謝您今天的發言。

Leslie Kaelbling：當然，今天的對話很有趣。

（完）

IJCAI 2019 會議召開之前，特邀報告講者名單將陸續公布，雷鋒網 AI 科技評論作為 IJCAI 2019 的媒體特別合作夥伴，也將陸續為大家帶來各位特邀講者的相關報道。屆時，雷鋒網 AI 科技評論還將奔赴現場為大家帶來精彩報道，敬請期待！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！