Hinton：我並不認為會有AI寒冬

新智元報道

來源：wired.com

【新智元導讀】《連線》雜誌專訪Geoffrey Hinton，關於AI自主武器、AI研究的挑戰、思考大腦的運作方式如何啟發人工神經網路等。Hinton很確定，不會有AI寒冬，因為AI已經成為人們日常生活的一部分。

20世紀70年代初，來自英國的研究生Geoffrey Hinton開始構建簡單的數學模型，來描述人腦神經元如何在視覺上理解世界。幾十年來，人工神經網路一直被認為是一項不切實際的技術。但在2012年，Hinton和他在多倫多大學的兩名研究生利用人工神經網路將計算機識別圖像中物體的準確度大幅提升。這三位研究人員一起創立了一家創業公司，僅僅6個月就被谷歌收購。從前鮮為人知的人工神經網路也開始成為矽谷的熱門話題。

上周，在七國集團(G7)首次的人工智慧會議上，《連線》雜誌採訪了Hinton。來自世界主要工業化經濟體的代表們在會上討論了如何開發人工智慧的好處，同時盡量減少失業和演算法歧視等不利因素。

以下是經過編輯的採訪實錄：

《連線》：加拿大總理Justin Trudeau在G7會議上表示，AI帶來的道德挑戰還需要做更多的努力。你怎麼看?

Geoff Hinton：我一直擔心致命的自主武器有可能被濫用。我認為應該有一個類似於《日內瓦公約》的條約來禁止自主武器，就像禁止化學武器一樣。即使不是每個人都在上面簽名，它的存在也會起到某種道德約束的作用。人們會看誰沒有簽名。

問：有4500多名你的谷歌同事聯名簽署了一封公開信，抗議一項谷歌與五角大樓的合同，涉及將機器學習應用於無人機圖像。谷歌稱這並非用於攻擊性的用途。你在信上簽名了嗎?

Hinton：作為一名谷歌的高管，我認為我不應該公開抱怨，所以我是私下抱怨。我沒有在給[谷歌聯合創始人]謝爾蓋?布林(Sergey Brin)的信上簽名。他說他對這件事也有點不高興。所以他們後來沒有繼續深究。

問：谷歌的領導決定走完那項合同，但不續簽合同。他們還發布了一系列使用人工智慧的指導原則，其中包括承諾不將該技術用於武器。

Hinton：我認為谷歌的決定是正確的。會有各種各樣的事情需要雲計算，很難知道在哪裡畫一條線，從某種意義上說，畫線這件事情是相當任意的。我很高興谷歌畫出了這條線。這些原則在我看來很有意義。

問：人工智慧在日常生活中也會引發倫理問題。例如，當軟體被用於在社會服務或醫療保健中做決策時。我們應該注意什麼?

Hinton：我是讓技術起作用方面的專家，但不是社會政策方面的專家。在這方面，我確實擁有相關技術專長的是，監管機構是否應該堅持要求技術人員解釋你的AI系統是如何工作的。我認為那樣的話，將是一場徹底的災難。

對於現在的AI系統所做的大部分事情，人們無法解釋它們是如何工作的。比如說，當你僱傭一個人的時候，這個決定是基於各種各樣你可以量化的東西，然後是各種各樣的直覺。人們不知道他們是怎麼做到的。如果你讓他們解釋他們的決定，你是在強迫他們編一個故事。

神經網路也有類似的問題。當你訓練一個神經網路時，它會學習十億個數字，這些數字代表了它從訓練數據中提取出來的知識。如果你輸入一張圖像，輸出的是正確的決策，比如說，它會回答「這是不是一個行人」。但是如果你問「它為什麼這麼認為？」好吧，如果有任何簡單的規則能判斷一張圖像是否包含行人，那麼這個問題應該很久以前就已經解決了。

問：那麼我們怎麼知道，什麼時候可以信任這些系統呢?

Hinton：你應該根據它們的表現來規範它們。你要運行實驗，看看這個系統是否有偏見，或者它與人類相比，做同樣的事情殺死的人是否更少。對於自動駕駛汽車，我認為人們現在多少接受了這一點。即使你不太清楚自動駕駛汽車是如何做到這一切的，如果它的事故比人駕駛的汽車少得多，那它就是一件好事。我認為我們必須像對待人那樣對待AI：你只需要看看它們表現如何，如果它們反覆運行崩潰，那麼就要說它們不夠好。

問：你曾說過，思考大腦是如何工作的，啟發了你對人工神經網路的研究。我們的大腦通過突觸連接的神經元網路，從我們的感官中獲取信息的。人工神經網路通過數學神經元網路提供數據，這些神經元由稱為權重的連接連接起來。在上周發表的一篇論文中，你和幾位合著者認為，我們應該做更多的工作來揭示大腦中運作的學習演算法。為什麼?

（注: 論文題為Assessing the Scalability of Biologically-Motivated Deep Learning Algorithms and Architectures，地址：https://arxiv.org/abs/1807.04587）

Hinton：大腦解決的問題與我們大多數的神經網路非常不同。大腦大約有100萬億個突觸。一般來說，人工神經網路的權重數量比大腦突觸至少要小10000倍。大腦用很多很多的突觸從幾個片段中學到儘可能多的東西。當有很多情節或例子可以從中學習時，深度學習擅長利用神經元之間更少的連接來學習。我認為大腦不關心怎樣把大量的知識壓縮到幾個連接中，它關心的是利用大量的連接快速提取知識。

問：我們怎樣才能構建起更強大的機器學習系統呢?

Hinton：我認為我們需要轉向另一種計算機。幸運的是，我這裡有一個。

（Hinton把手伸進皮夾，拿出一塊閃亮的大矽片。這是Graphcore的一個原型，Graphcore是一家英國初創公司，致力於開發一種新型處理器，為機器/深度學習演算法提供動力。）

幾乎所有我們運行神經網路的計算機系統，甚至是谷歌的特殊硬體，都使用RAM(存儲正在使用的程序)。從RAM中提取神經網路的權重需要耗費大量的能量，這樣處理器才能使用它。所以每個人都要確保一旦他們的軟體獲得了權重，就能多次使用它們。這是巨大的成本，因為你不能為每個訓練樣例改變所做事情。

問：最近對人工智慧和機器學習的興趣和投資激增，意味著用於研究的資金比以往任何時候都要多。該領域的快速發展是否也帶來了新的挑戰?

Hinton：機器學習社區面臨的一大挑戰是，如果你想要在機器學習領域發表一篇論文，必須要有一個表，表上首行是各種不同的數據集，沿著左列是各種不同的方法，而且你的方法必須看起來是最好的。如果不是這樣，就很難發表。我不認為這能鼓勵人們去思考全新的想法。

現在，如果你提交的論文有一個全新的觀點，它是沒有機會被接受的，因為它會遇到一些不理解它的初級審稿人。或者你會遇到一位資深審稿人，他審稿的論文太多了，但第一次看不懂，認為這肯定是胡說八道。任何費腦子的東西都不會被接受。我認為這很糟糕。

尤其是在基礎科學會議上，我們應該追求的是全新的想法。因為我們知道，從長遠來看，一個全新的想法將比一個微小的改進產生更大的影響。罔顧了這一事實，我認為這是機器學習領域的一個主要缺點，這個領域資深的人不多，年輕人更多。

問：這會阻礙這一領域的發展嗎?

Hinton：只要再等幾年，這種不平衡就會得到糾正。這是暫時的。現在公司都在忙於教育人們，大學也在忙著教育人們，大學最終會在這個領域僱傭更多的教授，它本身會自我糾正的。

問：一些學者警告說，當前的炒作可能會進入「人工智慧的寒冬」，就像上世紀80年代那樣，當時由於進展沒有達到預期，投向AI的興趣和資金都枯竭了。

Hinton：不，不會有人工智慧的寒冬，因為AI驅動著你的手機。在過去的人工智慧寒冬，AI並不是人們日常生活的一部分。現在它已經是了。

原文：

https://www.wired.com/story/googles-ai-guru-computers-think-more-like-brains

【加入社群】

新智元 AI 技術 + 產業社群招募中，歡迎對 AI 技術 + 產業落地感興趣的同學，加小助手微信號：aiera2015_2入群；通過審核後我們將邀請進群，加入社群後務必修改群備註（姓名 - 公司 - 職位；專業群審核較嚴，敬請諒解）。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！