專訪Geoff Hinton：全新的想法將比微小的改進更有影響力

雷鋒網 AI 科技評論按，日前，WIRED 對 Hinton 進行了一次專訪，在訪談中，WIRED針對人工智慧帶來的道德挑戰和面臨的挑戰等問題進行了提問，以下為談話內容，雷鋒網 AI 科技評論編譯整理。

「作為一名谷歌高管，我認為在公開場合抱怨（Pentagon 合同）並不合適，所以我私下抱怨，」Geoff Hinton 說。

20 世紀 70 年代初，一位名叫 Geoff Hinton 的英國研究生開始建立簡單的數學模型，以說明人腦中的神經元是如何從視覺上理解世界的。人工神經網路，正如他們所說，幾十年來一直是一種不切實際的技術。但是在 2012 年，Hinton 和他在多倫多大學的兩個研究生用人工神經網路大大提高了計算機識別照片中物體的精度。在這之後不到六個月，谷歌就收購了這三名研究人員創辦的一家初創公司。以前默默無聞的人工神經網路一時間成為了矽谷的話題。現在，所有的大型科技公司都把 Hinton 和其他一小群人煞費苦心研究的這項技術作為他們未來計劃的重中之重，並將其融入我們的生活。

日前，在第一屆 G7 人工智慧會議上，來自世界主要發達國家的代表們討論了如何利用人工智慧的優勢，同時盡量減少諸如失業和帶有歧視的演算法等不利因素。在這次會議上，WIRED 和 Hinton 進行了會晤，並對談話記錄進行了編輯整理。下面是訪談內容。

WIRED：加拿大總理 Justin Trudeau 在 G7 會議上說，在人工智慧帶來的道德挑戰方面，人類還需要做更多的工作。對此，你是怎麼看待的？

Geoff Hinton：我一直擔心在致命的自主武器中潛在的濫用問題，我認為應該有一些像日內瓦公約一樣的條例來防範這一問題。即使不是每個國家都會簽名，它的存在也會起到道德標杆的作用。你會注意到誰沒有簽名。

WIRED：4500 多位谷歌同事簽署了一封信，抗議 Pentagon 合同將機器學習應用於無人機圖像。谷歌表示，這不是為了作為攻擊性武器使用。你在這封信上簽字了嗎？

Geoff Hinton：作為一名谷歌高管，我認為在公開場合抗議不符合我的職責，所以我私下抗議。我沒有在信上簽名，而是和谷歌聯合創始人謝爾蓋·布林進行了交談。他說他也對此感到有點擔憂。所以他們決定接下來放棄這一合同。

WIRED：谷歌的領導人決定完成合同，但不會續約。他們還發布了一些關於使用人工智慧的準則，其中包括保證不使用該技術製造武器。

Geoff Hinton：我認為谷歌作出了正確的決定。將會有各種各樣的事情需要雲計算，並且很難知道技術的邊界在哪裡，從某種意義上講，這個界限很隨意。我很高興谷歌在這件事情上劃清界限，這些原則對我來說很有意義。

「你應該基於這些系統的性能來調節。你可以通過實驗來查看它們是否有偏差，或者它是否可能比人殺死更少的人。」

WIRED：人工智慧在日常生活中也會引發道德問題，例如，當軟體用於社會服務或醫療保健中的決策。我們應該注意什麼？

Geoff Hinton：我是使技術發揮作用的專家，但不是社會政策專家。我確實擁有相關技術專長的一個地方是，監管機構是否應該堅持讓你解釋你的人工智慧系統是如何工作的。我認為這將是一場徹底的災難。

人們對於他們自己所做的大多數事情，都無法解釋。當你決定是否僱用某人時，這個決定是基於你能量化的各種事情，然後是各種直覺。人們並不知道他們是怎麼做到的。如果你要求他們解釋他們的決定，你就是在強迫他們編造一個故事。

神經網路也有類似的問題。當你訓練一個神經網路時，它將學習數十億個數字，這些數字代表它從訓練數據中提取的知識。如果你把圖像放進去，就能檢測出正確的結果，例如，檢測圖像中的某個物體是不是行人。但如果你問「為什麼它會這麼認為？」好吧，如果有任何簡單的規則來判斷一張圖像是否包含行人，那麼這個問題在很久以前就已經被解決了。

WIRED：那麼我們如何知道何時可以信任這些系統呢？

Geoff Hinton：你應該基於這些系統的性能進行調節。你可以通過實驗來查看它們是否有偏差，或者它是否可能比人殺死更少的人。對於自動駕駛，我認為現在人們在某種程度上已經接受了它。即使你不太清楚自動駕駛的原理，但如果自動駕駛的事故比人駕車少得多，那也是件好事。我認為我們必須像對待人一樣對待它：你只要看看它們表現如何，如果它們不停地遇到困難，就說明它們不是那麼好。

WIRED：你說過，思考大腦是如何工作的，會啟發你對人工神經網路的研究。我們的大腦通過由突觸連接的神經元網路從感覺中獲取信息。人工神經網路通過數學神經元網路提供數據，這些數學神經元網路通過權重進行連接。在上周發表的一篇論文中，你和幾位合著者認為我們應該做更多的工作來揭示大腦中的學習演算法。這是為什麼？

Geoff Hinton：大腦解決問題的方法和我們大多數神經網路有很大區別。人類有大約 100 萬億個突觸，人工神經網路就權重的數量來說，通常至少要比這個數字小 10000 倍。在學習一個片段的時候，大腦會使用很多很多的突觸來儘可能地學習到更多。深度學習擅長利用神經元之間較少的聯繫進行學習，因為神經元之間有許多事件或例子需要學習。我認為大腦並不關心如何把很多的知識連接起來，它關心的是如何利用這些連接快速獲取知識。

WIRED：我們怎樣才能構建出功能更完善的機器學習系統？

Geoff Hinton：我想我們需要換一種不同的計算機。幸運的是，我這裡有一個。

Hinton 把手伸進他的錢包，拿出一個又大又亮的矽片。這是一個來自 Graphcore 的樣品，Graphcore 是一家英國初創公司，它致力於開發一種新型的處理器來驅動機器/深度學習演算法。

幾乎所有我們用來運行神經網路的計算機系統，甚至是 Google 的特殊硬體，都使用 RAM 來存儲正在使用的程序。從 RAM 中提取神經網路的權重，以便處理器使用，這需要花費令人難以置信的代價。一旦軟體獲取了權重，它就會使用很多次。這需要付出巨大的代價。

在 Graphcore 晶元上，權重存儲在處理器上的高速緩存區中，而不是 RAM 中，因此不需要移動它們。正因為如此，有些事情將變得更容易探索。然後我們可能會得到一個系統，這個系統可能有一萬億個權重，但是在每個示例中只會使用到十億個。這和大腦的規模更接近。

」從長遠來看，一個全新的想法將比微小的改進更有影響力。」

WIRED：最近人們對人工智慧和機器學習的興趣和投資激增，這意味著將有更多的資金用於研究。這個領域的迅速發展是否也帶來了新的挑戰？

Geoff Hinton：社區面臨的一個巨大挑戰是，如果你現在想要發表一篇機器學習的論文，那麼在這篇論文裡面必須有一個表格，在表格的最上面有所有不同的數據集，在旁邊還有所有不同的方法，並且你的方法必須看起來是最好的方法。如果不是這樣的話，論文將很難發表。我認為這並不能鼓勵人們去思考全新的理念。

現在，如果你發布一篇具有全新理念的論文，它不可能被接受，因為初級評審員並不能理解這篇論文。如果遇到一位資深評審人員，因為他會試圖儘可能地讀更多的論文，如果第一次就看不懂，他就會認為那篇論文肯定是胡說八道。任何人們不能理解的事情都不會被接受。我認為這真的很糟糕。

我們應該追求的是全新的理念，尤其是在基礎科學會議上。從長遠來看，一個全新的想法將比微小的改進更有影響力。這就是我認為的現在我們所面臨的主要挑戰，目前在這個領域有一部分的資深人士，還有無數年輕人。

WIRED：那這個問題會阻礙這個領域的發展嗎？

Geoff Hinton：只要等上幾年，這種不平衡就會得到糾正。這種狀況只是暫時的。公司正忙於教育人們，大學也在教育人們，大學最終將在這個領域僱用更多的教授，而且它會進行自我調整。

WIRED：一些學者警告說，目前的炒作可能導致「人工智慧的冬天」，就像上世紀 80 年代那樣，因為沒有達到預期的進展，當時的利息和資金枯竭了。

Geoff Hinton：不，不會有人工智慧的冬天，因為 AI 技術已經用於手機。在舊人工智慧的冬天，人工智慧實際上不是你日常生活的一部分，但現在它是。

來源：https://www.wired.com/story/googles-ai-guru-computers-think-more-like-brains/

雷鋒網

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！