創造智能不需要複製人類

選自Forbes

作者：Gil Press

機器之心編譯

參與：Rick、微胖、杜夏德

2016 年，人工智慧被報道了很多次，不只是因為谷歌人工智慧程序戰勝世界頂級圍棋手李世乭。機器戰勝人類引發巨大反響，有的人興奮，有些人滿是焦慮，所有人都設想——人工智慧的目標是達到「人類智力水平」，或像一些人所預測的「超級智能（superintelligence）」。

「我並不那麼在乎我們正在建造的東西是不是真的智能，」谷歌研究部主任 Peter Norvig 說。「我們知道如何建造真正的智能——我和我妻子已經嘗試過兩次，儘管她的貢獻更多。我們不需要複製人類。這就是為什麼我專註於利用工具來幫助我們，而不是複製我們已經知道的做事方式。我們想要人類與機器合作，做一些他/它們無法單獨完成的事情。」

Norvig 進一步對神經科學與人工智慧研究做了有用的區分。他說：「理解大腦令人著迷，但是我認為把它和人工智慧的目標（即解決問題）區別開來，很重要。」每個領域都可以相互學習，但是，「如果你將二者混為一談，就好像同時瞄準兩座山峰——最終，你往往會落在山峰之間的低谷中」。要避免這種情況，明智的做法是明確目標，小心使用具有誤導性的標籤：「如果有比神經網路更好的表達，情況會更好些；如果 Google Brain 團隊換一個名稱也許我們會更好。Google Brain 團隊提供解決問題的編程工具——它不是理解大腦的工具，也並不一定要與大腦的工作原理相關。」

為解決具體問題而開發工具以及教別人如何操作——是 Norvig 過去三十年職業生涯的標誌，那是他在加州大學伯克利分校完成其博士論文之後，論文研究的是利用計算機提高文本理解能力。1995，他（與 Stuart Russell）合著了《人工智慧：一種現代方法（Artificial Intelligence: A Modern Approach）》一書，該書成為這一領域的主要教科書（現在是第三版）； 2011 年，他（與 Sebastian Thrun）聯合教授網路課程《人工智慧導論（Introduction to Artificial Intelligence）》，有來自 209 個國家的 160,000 名學生參加。由於這些及其他成就，Norvig 在 2001 年（「由於他對教育資料、自然語言處理技術、基於網路的技術以及科研管理和領導力方面的重大貢獻」）成為國際人工智慧協會（Association for the Advancement of Artificial Intelligence/AAAI）會士，2006 年（「由於他對人工智慧和信息檢索方面的貢獻」）成為美國計算機協會（Association for Computing Machinery/ACM）會士。

Norvig 從很早時候起就一心關注著真正的人類智能。六年級時，他就寫信向當地報紙抱怨科學報告中的數學盲化與敷衍話語。高中時，有位老師建議他成為一名科學記者，然而 BASIC 編程的學習經歷以及一堂語言課程使他想到了用計算機來處理自然語言，這是一條迥然不同的職業道路。Norvig 說，這個興趣可能也源自他的父親——一位數學教授以及他的母親——一位英語文學教授的綜合影響。在布朗大學主修應用數學期間，他偶然發現了一門從認知科學角度教授的心理學課程，引領他朝人工智慧領域又邁進了一步。因此，在麻省理工學院的一個衍生機構工作了兩年並「接觸到研究生的大學生活方式」之後，他覺得獲得博士學位會很有趣，於是就讀於加州大學伯克利分校的計算機科學系。

那時正是消減人工智慧研究投資的時期（所謂的「人工智慧寒冬」），但 Norvig 認為「這是最有趣的領域——你正在解決最困難的問題。當時希望研究生能深鑽某一領域，但你並不期望最終會得到一個能改變世界的產品，所以，人工智慧寒冬的說法並沒有對我產生太多干擾。」

結果，那段時間卻是人工智慧研究的重大轉折期。「當我還在讀研究生時，」Norvig 說，「這一研究領域發生了轉變，在此之前，一個專家系統要僱傭很多研究生來手寫邏輯規則，積累足夠的量以獲取好的結果。但是，你永遠都做不到——因為編寫這些規則太難了。所以，我們轉向一種概率的方法，你處理的是不確定性，目標是得到最好的答案，而不是試著複製專家思維。這個方法在醫療診斷和語音識別以及其他領域獲得了成功，事情進展得很順利。」另一個相關的重大變化「是使用數據，而不是自己來思考所有規則」，通過統計分析發現數據中的規則。在一篇影響深遠的論文中，Norvig 及其谷歌同事要求一些領域（比如機器翻譯和語音識別）的其他研究員避開理論建構，而去「擁抱複雜性，充分利用我們最好的盟友： 不合理的數據有效性。」

在過去的十五年里，Norvig 一直在谷歌工作，該公司參與解放了——並成功挖掘了——Web 時代的大數據浪潮。在這之前，他經歷了各種不同的研究環境，先後任職於加州大學伯克利分校、Sun Microsystems、兩家初創公司以及美國宇航局（NASA）艾姆斯研究中心。他為什麼離開學術界？「作為一個大學老師，很難得到資源去做更大的項目，」Norvig 說。「所有都是一點一點地，一段時間帶一個研究生，你所需要的計算資源、找到一個會為你提供數據的合作夥伴，所有這一切對一個大學老師來說都是困難的。而在工業體系中，你可以得到所有你需要的資源。」

Norvig 將研究環境從企業轉向了政府，成為一名 NASA 艾姆斯研究中心的計算科學部門主管，為機器人航天器開發自驅動軟體，比如 Mars Rover。至於業界的研發，對實際世界結果的需求會引導著基礎研究方向。「但是在一些組織和政府方面，」Norvig 說，「並沒有太多不同。如果你那個環節行不通，那麼你就失去了整個任務和數億美元。一切都必須可行，所以進程有點慢。」這種拉長進度的做法也適用於組織工作的其他方面。鑒於 NASA 所正在試圖實現的事情，測試通常是作為一次模擬來進行。Norvig 將其與谷歌相比較，谷歌面對的一直是現實世界，來自真實用戶的反饋是即時的，而萬一失敗了，該問題第二天就可以得到解決。

谷歌在研究工作方面的這種即時性狀態不僅是時間上的，也是空間上的，就好像不同職業的人坐在一起辦公。不同於傳統的產品團隊，Norvig 說，「那裡的研究人員創建了一個原型然後畫在牆上，接著工程師們會重新做一遍來實現它，」谷歌創造了一個非常獨特的產品開發環境，其中「研發」與「開發」成員在同一個團隊中是平等的。「我們覺得我們將一直發展下去，因此我們希望大家能夠從頭到尾地參與進來，這樣他們可以繼續作出改進，」Norvig 說。

這個「混合研究模型（hybrid research model）」中的一個重要激勵因素在於開發出那些研究人員願意使用的生產環境工具。這種態度逐漸擴展成開發一個內部使用的世界級 IT 基礎設施，為研究人員提供最好的工具和機會來實現自己的想法。Norvig 說，早期有一些抵觸自主開發，想直接從 IT 廠商那裡購買硬體和軟體，但是，「自己打造一些東西通常是正確的決定——我們相較之前的做法更進了一步，那麼，我們就可以進行快速迭代，而不是為了一個小改動就去找一個供應商，這種做法會拖慢所有的進程。」激勵研究人員的另一個因素是允許他們發表論文，並對學術合作的其他渠道給予支持，這為他們提供機會去擴展自己研究在該領域中的影響，並有機會脫離漸進式研究，致力於「範式轉變（paradigmatic changes）」或谷歌的「登月計劃（moonshots）」。

但是，最吸引計算機科學家的恐怕是數據，這些數據掌握在谷歌手中。在谷歌，他們可以分析帶有現實世界約束條件的大量數據，做一些之前項目或研究規模無法比擬的實驗。這種大規模的、實驗性的、迭代的重點研究被注入了豐富的數據，正如 Norvig 所指出的，三十億的互聯網群體和一部「口袋裡的超級計算機」幫助了谷歌————及其他公司的研究人員/開發者——發明出實用而成功的、以數據為中心的人工智慧應用程序，其中大多數應用最近都使用了深度學習和及其他經過改進的新機器學習方法。

過去幾個月中，我在很多場合聽到 Norvig 談及這些年來將機器學習應用到全球所有信息——在 O"Reilly AI Conference 上，在 波士頓舉行的 ACM 會議上，一次 ACM 的網路研討會以及在一次電話訪談中——過程中所學到的東西。他對比了機器學習和傳統的軟體開發，突出了前者的優勢以及所獨有的難題。Norvig 說，機器學習更省事，你要做的就是輸入大量數據給計算機，而不是讓程序員喝咖啡、吃披薩。輸出也要快得多。

但是，也有很多挑戰。Norvig 說，「機器學習能讓你跑得更快，但是，較之於跑得慢，跑快也會有問題，系統崩潰也更加驚人。」機器學習比傳統軟體更難，因為調試起來更有難度——並沒有傳統軟體那樣現成、驗證過的調試工具和程序，也很難隔離一個 bug；如果做了任何改變，最後可能會改變一切；另外，如何以及何時動用人力協助，訓練使用者不要過分依賴機器，也是不好決定，而且還需要考慮新數據或你正用來訓練機器的數據的變化；機器學習中的數據使用引發了許多深層次的問題，比如隱私、安全以及公平。Norvig 的底線可援用丘吉爾關於民主的格言：在所有人類嘗試過的制度中，民主是最不壞的選擇。

在與各種聽眾的接觸中，Norvig 談到了很多重要問題，這或許有助於加快問題的解決。最終，隨著各行業和政府組織越來越多地使用機器學習，在理解和管理上，機器學習會變得像傳統軟體。不過，計算機所能做的會持續、快速地發生變化，因此，針對當前問題之一的每個解決方案，可能會出現一些新的小問題。

今天，我們正在經歷人類與計算機互動方式的根本變革，毫無疑問，這會帶來新的問題，也會帶來新的機遇。我們正在從與應用程序互動佔主導地位的今天，轉變到與虛擬助手互動（有時是通過語音進行互動）的時代，「就像那些發明了滑鼠和菜單時代的互動方式的先行者們，今天，當我們與一個系統對話時，我們不得不發明新的互動方式。現在，你電腦和手機上的所有一切都放在應用程序中，想要做什麼的時候，你首先需要決定點擊那個應用程序。但是，當你有了虛擬助手後，能夠整合在一起的服務就能合并起來。」如何整合這些服務並讓用戶滿意可能是後應用程序時代的一個巨大挑戰，此時，新的人機互動類型以及技術會是投資、研發、失敗和勝利的一個焦點。

在這場人工智慧的復興中，同很多人一樣，Norvig 把一些新發現的亮點和成功歸功於增長的計算機能力和大量數據的可用。但是，他認為還有兩個基本的轉變也很重要，一個是計算機研究和編程的供給方，另一個是需求方，也就是我們希望計算機能做什麼事情。Norvig 引用了 MIT Hal Abelson 的觀點，Abelson 觀察到計算機科學已經從數學科學轉變為自然科學，從計算出一個正確答案轉變為觀測，從傳統的計算機軟體轉變為機器學習。類似的，需求已經從期望計算機把諸如加數字這樣的問題做的更好轉變為一些我們真正在意的事情，這些事情不像加加減減那麼清晰明確，Norvig 說：「讀一些有趣的東西，獲取適當的推薦，分享圖片並知道圖片中有什麼，這就是人工智慧要做的事情。當我們想要優化或者給出最佳推薦時是沒有一個確定答案的，都是不確定的。」

為了給這些轉變帶來的新應用和計算機使用方式打開機遇，Norvig 對打造機器學習和人工智慧產生了興趣，「這是所有程序員的必備技能而不是某個專業領域。」他擔心沒有足夠的人工智慧人才，並在過去的一年中一直專註於開發方便易用的工具。「如果你是一個優秀的程序員，你就應該有能力去自學人工智慧方面的知識自己研究機器學習，不一定需要一個博士學位。」

今天的很多計算機程序員和博士候選人 沒有在等著人工智慧的普及化，都在忙著重複訓練並總是將工作重心放到談論最多最令人興奮的計算機科學專業。「五年前，一個記者問我『人工智慧是怎麼走向失敗的？』」Norvig 回憶到。「今天，他們會說『人工智慧怎麼佔領世界，殺死所有人類或者霸佔我們的所有工作。』」

看到各種人工智慧任務的表現每年以 30% 速度增長，Norvig 很高興，但他也清楚這些進展也帶來一些偏離真正目標的炒作。「我沒有看出這個世界會出現奇點。我們的觀點是這個世界是複雜的，變得更加聰明並不能解決很多世界問題。」而且：「比獲取類人性能更重要的是有些有用的東西不一定要像人，智能明確它要做什麼不能做什麼就可以了。」

提供有用的東西。解決具體的難題。不要被機器終將變得和人類一樣這種莫名的期望帶偏了路。了解訓練機器時需要做哪些提升來在不確定的情況下做決定，傳播使用知識。注重增強人類智力並開發出人機團隊合作的藝術。這就是「人工智慧」的全部，Peter Norvig 如是說。