Yan LeCun會是AI界的居里夫人嗎？

新智元報道

來源：Medium

編輯：元子

【新智元導讀】本文介紹了LeCun和居里夫人、以及原子發展和AI發展的共通之處，試圖回答：人工智慧處於何種發展階段、是否會有危險、以及Yann Le Cun是新的Richard Feymann，還是新的Marie Curie，或兩者兼而有之？

深度學習、CNN越來越火熱，原因之一是它取得了很多令人矚目的成就。不過，這種熱度能夠持續多久？深度學習是否在未來幾年仍然能夠推動人工智慧呈指數級增長？恐怕需要我們仔細去思考一下。

美國未來研究院主席羅伊·阿馬拉有一條著名的阿馬拉定律：「我們傾向於過高估計技術在短期內的影響，而低估它的長期效應」。

所以，深度學習到底是被高估還是低估，就得搞清楚目前深度學習和人工智慧發展到了什麼程度，站在哪個階段上。

Gartner熱度循環曲線

上圖中的曲線反應了一項技術在5到10年內關注度的變化，可供企業用來評估該項技術的發展階段，從而決定是否採用該技術、何時使用等。不過人工智慧不僅僅是一項應用於企業的技術，同時是一個獨立的科學領域，它的熱度周期可能長達50到100。

觀察人工智慧發展走向的一種方法是將其看做是人類對自我認知的理解，對人類學習系統的探索。從這個角度切入，就可以將我們在人工智慧領域的發現，與過去的科學發現進行比較，特別是那些與複雜系統有關的發現：太陽系，進化，電力…以及，原子。

接下來，我們來通過解答一個有趣的問題來嘗試揭開當前人工智慧的發展階段，以及30年後我們的後代回顧歷史會對現在我們做的事情做出何種評價：天真？還是危險？

這個問題就是：深度學習大牛、CNN之父Yann Le Cun是AI領域的費曼，還是居里夫人，或兩者兼而有之？

核物理簡史

要解答上述問題，需要對核物理的歷史做一個簡單的梳理。

研究鈾鹽磷光現象的Becquerel於1897年偶然發現了鈾的放射性，鈾被光照後擁有了發射X射線的能力，接著他很快就發現鈾不需要外部能源也能發射X射線。之後居里夫人更精心地研究了放射性，並研究了除鈾以外的其他天然放射性化合物。

放射性的發現引起了公眾的熱情；與此同時，放射性是一種新的現象，需要通過理論研究和對原子本身的更好理解來解釋。

愛因斯坦在1905年提出了著名的質能等價理論，盧瑟福在幾年後通過實驗用電子轟擊金屬板，確定了原子的第一個模型：有核和電子軌道。

這個不完整的原子模型一直沿用了15年。直到1928年現代普遍接受的「自旋」模型的出現，以及1935年強核力理論的提出。

在強核力理論提出4年後，放射性元素第一次落地應用，科學家使用同位素成功進行了癌症化療；隨後，1942年建立了第一個研究核反應堆，1956年建成第一座全規模核能發電廠。

從1897年發現發射線元素，到成功實現落地應用，歷時近半個世紀。

人工神經網路是如何開始的

神經網路的概念很早就有了，最初的動機是編寫一種模仿突觸行為的演算法。在1957年討論了第一個感知器，1965年討論了第一個多層感知器。

而那個時候的計算機剛剛開始發展，速度非常慢，最簡單的網路也的數天才能訓練完畢，效率極其低下，因此在接下來的十幾年都沒有被大量使用。

第一個轉機出現在1974年，Werbos發現了反向傳播。反向傳播使用了神經網路操作具有差異性和可投射性的特點，當網路出錯時，可以將錯誤本身回溯到網路的各層，以幫助它自我糾正。從某種意義上說，它是我們今天稱之為深度學習的開始。

幾年後，Kunihiko Fukushima推出了Neocognitron，靈感來自視覺皮層中感知細胞的工作模式。有了Neocognitron，才有了後來廣為人知的CNN。

神經網路的重大發展，源自算力的提升，這葯感謝現代GPU、TPU等。

Yann Le Cun：讓人工智慧看到了一束光

在Yann Le Cun將神經網咯第一次落地之前，AI正在經歷漫長的寒冬期。

Yann Le Cun通過反向傳播和CNN來識別用於郵件路由的郵件上的郵政編碼，雖然結果喜人，然而距離深度學習成為主流還需要20年左右的時間。

三個G：Google，GAN和GPU

2014年，Ian Goodfellow與蒙特利爾大學的同事們在酒吧里激烈爭吵。有關自動生成逼真圖像的能力以及如何教導神經網路做到這一點。喝大了的Ian誕生了一個瘋狂想法，讓兩個神經網路互毆，第一個網路生成圖像，第二個網路「調教」第一個。

現在仍然不清為什麼讓兩個神經網路並行運行會有效，這個問題仍然亟待解決。GAN的過去幾年出現的有關機器學習的一個例子，但其他包括：

學習（可解釋以及好奇心）人工智慧系統本身缺乏好奇心，不會學到新東西，缺乏可解釋性

深度雙重Q-Learning（DDQN），深度學習網路嘗試去學會一個策略（例如，玩Atari Pong）。兩個網路分別評估特定步驟是否智能和相互關聯的結果

YOLO（You Look Only Once）對象檢測演算法，以奇怪的方式檢測圖像中的對象，但速度超快

回顧有關人工智慧的各種概念的提出，例如反向傳播、CNN、GAN，RNN，LTSM等，可以和原子的發展歷程進行類比。

Atom和Deep Learning / AI

30年後的人工智慧

未來很難預測，不過可以通過根據過去的科學發現，嘗試做出一些假設，並找出真正在AI上取得重大進展需要做些什麼：

更多理論：人工智慧現在階段，類似自旋模型出現之前的階段。

也許未來可能建立一個適用的學習理論，其中包含驅動因素（如好奇心，概括能力等），並將這些概念融合在一起

更多工業化：工程領域需要通用以及可重用的組件。這一點已經從核工業中得到證實。在深度學習中，嵌入和可重用的表示正在成為一種趨勢

更多落地商用：人工智慧目前主要在虛擬世界、而非真實世界中運行，這限制了它的一些實際應用。一些新出現的概念，例如「數字孿生工廠」，人工智慧可以在其上運行並進行優化的見解

更多硬體：放射性是在建造靜電計的時候偶然發現的。而AI是在當前硬體（包括GPU和TPU）上開發的，所以，未來可能需要量子計算機

如果至少上述任何兩個「預測」都成為現實，30年後當我們的後代回顧21世紀初的深度學習研究領域是，可能會說：是的，也許Yann Le Cun是AI領域的居里夫人！

參考鏈接：

https://medium.com/ai-musings/is-yann-le-cun-the-new-marie-curie-52538f87237c

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！