深度學習之父Hinton憂慮：數據泄漏、AI軍備與批判的缺乏

來源 | gizmodo，作者 | Martin Ford，翻譯 | 微胖、茜茜。

馬丁·福特（Martin Ford）2015 年出版的《機器人的崛起》一書曾掀起波瀾，該書詳細介紹了許多自動化的加速發展趨勢，以及它們如何影響商業，特別是就業。在新書《智能建築師：AI 建築者談人工智慧真相（Architects of Intelligence: The Truth About AI from the People Building It）》中，他試著搞清楚副標題到底描述的是什麼。本書主要是對人工智慧領域最知名人士進行深入訪談。其中之一是 Geoffrey Hinton，他在人工神經網路方面做出了開創性工作，Hinton 目前是多倫多大學的計算機科學教授，也參與了 Google Brain 項目，他被自己所在領域的許多人視為「深度學習之父」。本文摘自這本新書，Hinton 談到自己如何思考他所開創的先進系統對經濟和社會的巨大影響，並強調了解決問題需要區分社會系統和技術系統。當然，他也談到了學術方面的一些建議和擔心。

馬丁·福特：我們來談談人工智慧的潛在風險。一個特殊挑戰是對就業市場和經濟的潛在影響。您是否認為所有這些都可能導致新的工業革命並徹底改變就業市場？如果是這樣，這會是我們需要擔心的事情，還是說，它是另一件可能被人們誇大的事情？

Geoffrey Hinton：如果你能夠大幅提高生產力並提供更多好處，那應該是一件好事。不過，它是否是一件好事完全取決於社會系統，而不是技術。人們正在研究技術，好像技術進步是一個問題，但問題在於我們是否會建立一個公平分享的社會系統，還是一個僅關注那 1% 的人並將其他社會人員視如草芥的社會。這與技術無關。

馬丁·福特：不過，接下來問題就來了，因為很多工作可能會消失——特別是那些可預測且易於自動化的工作。基本收入制度是社會對這一趨勢的基本反應，你贊同這一制度嗎？

Geoffrey Hinton：是的，我認為基本收入是一個非常明智的想法。

馬丁·福特：那麼，您認為需要採取政策來解決這個問題嗎？有些人認為應該就此打住，但那可能是不負責任的。

Geoffrey Hinton：我搬到了加拿大是因為稅率較高，因為我認為正確的稅收是好事。政府應該做的是建立機制，以便當人們為自己的利益行事時，它會幫助每個人。高稅收是一種這樣的機制：當人們致富時，其他人都會受到稅收的幫助。我當然同意要確保 AI 讓每個人受益，但還有很多工作要做。

馬丁·福特：對那些可能與人工智慧有關的其他一些風險，比如武器化，你怎麼看？

Geoffrey Hinton：是的，我對普京總統最近所說的一些事情感到擔憂。我認為人們現在應該努力讓國際社會探討那些可以殺死人的武器，就像他們對待化學戰和大規模殺傷性武器那樣。

馬丁·福特：是否贊成暫停某種類型的研究和開發？

Geoffrey Hinton：你不會暫停這種類型的研究，就像你沒有暫停神經毒劑的研發一樣，但確實存在一種國際機制阻止它們被廣泛使用。

馬丁·福特：除軍事武器使用外，其他風險如何？是否還有其他問題讓你擔憂，如隱私和透明度？

Geoffrey Hinton：用它來操縱選舉和操縱選民令人擔憂。Cambridge Analytica 由 Bob Mercer 成立，他是一名機器學習學者，你已經看到 Cambridge Analytica 造成了很大的破壞。我們必須認真對待。

馬丁·福特：你認為需要有監管嗎？

Geoffrey Hinton：是的，需要很多監管。這是一個非常有趣的問題，但我不是這方面的專家，所以沒有更多可建議的。

馬丁·福特：怎麼看全球軍備競賽？一個國家不要遠遠領先於其他國家，這重要嗎？

Geoffrey Hinton：你所談論的是全球政治。很長一段時間，英國是一個佔主導地位的國家，他們表現得不是很好，然後就是美國，他們表現得不是很好，如果換作中國佔主導地位，我不指望他們表現得會很好。

馬丁·福特：你認為我們應該採取某種形式的產業政策嗎？美國和其他西方政府是否應該關注人工智慧並將其作為國家優先事項？

Geoffrey Hinton：技術會有很大的發展，如果不試圖跟上這一步伐，會顯得很瘋狂，所以很明顯，應該進行大量投資。這對我來說似乎是常識。

馬丁·福特：總的來說，你對這一切感到樂觀嗎？你認為人工智慧的回報會超過帶來的負面影響嗎？

Geoffrey Hinton：我希望回報超過負面的東西，但我不知道社會建設層面的人是否也這樣想，這是一個社會系統問題，而不是技術問題。

馬丁?福特：人工智慧領域人才嚴重短缺，大家都在招人。對於想要進入這一領域的年輕人，你有什麼建議? 有沒有什麼建議可以幫助他們吸引更多的人，並使之成為人工智慧和深度學習領域的專家?

Geoffrey Hinton：我擔心對基礎知識持批判態度的人不夠多。Capsules 論文是說，也許我們做事情的一些基本方法不是最好的，我們應該撒一張更大的網。我們應該為正在做的一些基本假設尋找替代品。我給大家的一個建議是，如果你的直覺認為人們正在做的事情是錯誤的，並且可能會有更好的事情發生，你就應該遵從自己的直覺。

你很可能是錯的，但是當人們在知道如何從根本上改變事情時，如果不跟著自己的直覺走，就會陷入困境。我認為真正的新想法最豐富的來源是研究生在大學裡得到的良好建議。他們可以自由地提出真正的新想法，並且他們所學到的東西足以讓他們不僅僅重複歷史，我們需要保持這一點。攻讀完碩士學位後直接進入這個行業的人不會有什麼全新的想法。我認為你需要坐下來思考幾年。

馬丁·福特：加拿大似乎是深度學習的中心。這是偶然的嗎? 還是加拿大有什麼特別的地方促成了這一點?

Geoffrey Hinton：加拿大高級研究院 (CIFAR) 為高風險領域的基礎研究提供資金，這是非常重要的。Yann LeCun（他曾是我的博士後）和 Yoshua Bengio 都在加拿大，這也帶來了很多好運。我們三人合作，能夠結出累累的碩果，加拿大高級研究所資助了我們的合作。我們也曾經一度被孤立，處境相當惡劣——直到最近，深度學習的環境才變得不那麼惡劣——這筆資金對我們很有幫助，讓我們能夠在小型會議上有相當多的時間相互交流，在那裡我們可以真正分享未發表的想法。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！