知乎大神田淵棟：人工智慧的當下與展望

作者：田淵棟

Facebook | 人工智慧研究室

量子位 已獲授權編輯發布

本文作者田淵棟，畢業於卡耐基梅隆大學機器人系，現就職於Facebook人工智慧研究室（FAIR）。主要研究深度學習的理論和實踐、序列決策和計算機視覺。

近日，田淵棟在知乎專欄中發布了題為《一些關於人工智慧的討論》的連載文章，量子位將此系列前兩篇整理如下，與大家分享。

一

問：強AI是否會統治世界？奇點是否會到來？

首先，「強AI」這個概念不是那麼清晰。強AI或者弱AI，並非是由一個天才的點子造成的從0到1的突變，而是通過一系列的技術突破達成的循序漸近的漸變過程。

拿計算機視覺來說，現在我們完全解決了」計算機視覺「這個問題么？我們會發現圖像分類或許超過人了，但是物體檢測還有各種毛病，小物體找不到，大部分被遮擋的物體找不到，需要高層推理的物體找不到，樣子相似的物體易混淆，等等。

同樣的，視頻流中的行為檢測解決了么？基於上下文的物體檢測解決了么？視覺和語言如何互通？這些雖然有進展，但還沒有完全解決。

在這個現狀之下，再想要有一句話解答」計算機視覺有沒有完全解決」這個問題，就顯得非常困難了。所以說，一個領域下這些細分的子領域，只有在這個領域充分發展之後才會漸漸浮現出來。

人工智慧作為一個覆蓋面廣得多的研究領域，隨著進一步發展只會分得更細，到那個時候，我們現在掛在嘴上的強/弱AI的二元稱謂，是不是會顯得有些可笑呢？取而代之的，往往是「高層推理很強但相對欠缺感知能力」或者「相當於三十年經驗的山地植物學專家但不擅長觀察衛星圖片」這樣的說法。

我覺得，我們現在如何評價一個人，將來就會以同樣的方式，在一個更高的水平上去評價一個AI系統，這種評價是多方面且恰到好處的，而非「強」與「弱」可以簡單概括。

正因為達成更好的AI需要一系列的技術突破，需要借鑒各方面的想法，存在一個科學狂人或者一個秘密組織，單獨把路徑上的所有關鍵步驟都做出來這種可能性已經越來越低了。

閉門造車的風險太大且有很大概率走進錯誤的方向，大部分人都是站在巨人的肩膀上，相互借鑒相互交流，通過文章共享和代碼開源，一點一點地向前推進。在任何一個突破出現之前，在一線科研論文中早會出現大量的證據，只要各地研究人員的水準和手頭的資源相當，沒有理由意識不到這一點，並且緊緊跟上。

要知道在每一個重大科學成就背後，是多少功敗垂成的研究者們深沉的嘆息（這方面的例子實在太多，我就不舉了），這些第二第三們會被歷史所遺忘，但從另一方面來說卻是整個人類世界得以持續發展的基石，前仆後繼，以至黎明。

另一方面，在這樣的環境下，雖然開創性研究很難，但對於跟隨者而言，只要還在AI研究的第一梯隊，並且目標只是重現或者應用已有演算法，就可以在很短的時間內趕上來。只要一個團隊做出好東西，其它團隊照貓畫虎多花幾個月也可以做出來，到時候大家都又回到同一起跑線上。

在接近這個目標的過程中，必然會有大量的文章公布，大量的代碼開放，大量的有志者進入這個領域並且深入探索，大量的從業者藉助工具獲得了遠超身體和大腦極限的能力。在達成通用AI這個目標之前，AI的發展過程本身，就已經會對人類社會的方方面面造成極為深遠的影響。

這一點，我們現在已經看到了很多，將來會看到更多，人類也會因此而在不知不覺間完成巨大的轉變。等到我們真的準備好了去跨出那一步，那一步就已經不算什麼了，或許到頭來，我們會根本忘記那一步是如何跨出，就已經身處與十年前完全不同的未來——這也是一個人變強的體悟，不在一朝一夕，而在於堅實的每一步。

不可否認，一個能充分發揮人的潛力和創造力，搶先做出能加強人類思考能力，能在小樣本無標定的情境下工作，具備強大泛化能力的通用AI的團隊，背靠完全自動化信息化的傳統領域，具備高效的執行能力，能夠飛快地將研究得出的成果付諸切實且廣泛的應用，那確實會在這領先的幾個月內具備極大的優勢，並完全可能會遠遠甩開身後的眾多跟隨者。

但基於先前漸進發展的邏輯，就算存在這樣一個相對大的跳變，其它跟隨者也至少有章可循。在這個區間內會發生什麼事情無法預測。回顧往昔，技術爆炸信息不暢對立意識濃厚的二戰可能是人類歷史上最為危險的時刻，但就算是這樣，人類也已經走過來了。

而我們研究人員所能做的，通過縮短這個時間差讓大家一起走過去的辦法，就是共享研究成果，進行充分而坦誠的交流。

二

對AI來說，數據和經驗是其最終的發展瓶頸。有數據的地方AI才能有過人的水準。無人車是個典型的例子，一開始數據很多進展很快，但隨著系統的改進，從每公里出現一次問題到每一百公里出現一次問題，有價值的數據越來越少，進展也就越來越慢。

將來AI的技術突破會讓它在同等數據條件下有更強的泛化能力，但不變的底線是仍然要依靠數據去尋找模式。

人作為一種智能體，在AI出現之後其社會發展恐怕也會遵循相似的路線。每個人生活軌跡都不同，一生都會產生大量獨一無二的數據，在這樣一個高維空間中，AI和人一樣，其踏過的軌跡都是茫茫宇宙中的微弱燭火，只是百步和五十步的區別。

於是，勇於探索並擁有獨特的經驗就變得極有價值，能成為別的智能體模仿的目標。比如說拍一張沒人見過的照片，去一個人跡罕至的地方並記錄下來，寫一篇文章傳播新觀點，等等。目前這樣的傾向已經出現了。各種朋友圈及直播的火爆，網路小說的流行，大家願意去花時間和精力去體驗別人的生活，特別是不一樣的生活，可以說是將來這樣的社會形態的先驅和萌芽。

當重複性的物質生產完全自動化了之後，這些可分享的獨一無二的經驗，就成了真正的稀缺資源和全人類的寶貴財富。

在商業上來說，大量相對平凡的經驗爭著去給別人消費，而獨一無二的稀缺經驗則需要消費者以某種代價去獲取。

從個人角度來看，前人的多樣性給後人帶來了無盡的生活可能；在全人類的角度上看，獲得更多未知的經驗，能夠提高人類整體的生存可能。

以現在看來，經驗世界是看不到盡頭的。

舉圍棋這個例子，非常簡單的幾條規則可以創造一個上下幾千年的人們探索一生還遠遠無法窮盡的世界。對於更複雜的規則，即便有了AI的幫助，又要花多少時間去研究和探索？更何況AI也可以用來幫助創造新的世界，比如說遊戲內容生成。

《未來簡史》中認為將來大部分人會成為無用階級，這個是狹隘地理解了「有用性」，也低估了一個人所能做的。

當重複性的物質生產完全自動化了之後，在理論上來說，一個人有了從頭到尾完全生存於一個虛擬世界，並在裡面體驗及探索一生的可能。

目前這種體驗還無法和現實世界相比，這一方面是因為大量工作仍需人力，虛擬世界也還太過粗糙；另一方面因為人們還沒有意識到體驗本身的重要性，還沒有把它當成新的社會財富的覺悟。

但以後藉助AI的力量，在社會資源極大豐富之後，可以並且應該探索截然不同的世界，並將這個世界的體驗保存下來，不管這個世界是現實的還是虛擬的，是不是製造出來的概念或是所謂「真實「存在的事物。畢竟，誰能保證現實世界不是一個巨大無比的虛擬器呢？到這個時候，真實和虛擬也不再有高下之別。

有人可能會擔心人類在現實世界的發展問題，大家都去虛擬世界裡玩了，現實問題會有人管么，宇宙還會有人願意去探索么？

其實我覺得現實生活作為一種高難度的體驗過程，總會有少數人願意去挑戰的，而且市場規律會給這些勇者們應得的高回報。因為能獲取這類經驗的人相對稀缺，另一個附加分是獲取現實世界的物理資源，可以將之轉化為計算資源，從而拓寬人類及AI經驗的邊界。

以後在AI能做大部分的技術性工作之後，能否使用手頭一切可用的資源去完成一件別人無法完成的事情，能否在大家公認的信念中找到問題所在，能否通過自己的努力為整個世界提供獨特的視角和感受，這些可能會成為人才的標準。

往更大的方向去說，就是「立德，立功，立言」。而「德、功、言「其影響力的大小，則會決定人才的層次。將來高度發達的網路和交流環境將在很大程度上讓學生自動學會各項專業技能，而教育的重心就會放在大方向上指導和啟發，決定在高維的經驗空間中，人生這條旅途的選擇，走向和境界。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！