價值中國專訪圖靈獎得主：因果律和自由意志，是人工智慧的必由之路
因-果
價值中國專訪
人工智慧科學家、圖靈獎得主Judea Pearl
Judea Pearl, 人工智慧專家，2011美國計算機協會(ACM)圖靈獎獲得者，美國國家工程院院士，美國加州大學洛杉磯分校計算機科學學院教授、認知系統實驗室主任。
1970年在加入UCLA之前他在RCA研究實驗室工作，負責超導存儲設備的研究。而此前，他曾在Electronic Memories公司研究高級存儲器。畢業於以色列理工學院，獲電氣工程學士學位。1965年獲得Rutgers大學的物理學碩士學位，同年獲得了美國布魯克林理工學院的電氣工程博士學位。
2012年，Judea Pearl獲得了以色列理工學院頒發的科學技術領域獎項Harvey Prize。2008年，他獲得富蘭克林研究所計算機與認知科學專業的富蘭克林獎章。他還曾被ACM和AAAI提名為2003年的Allen Newell獎。
他在其著作《Causality: Models, Reasoning, and Inference》中創立了因果推理演演算法，為他贏得了2011年英國倫敦經濟和政治科學學院的LAKATO獎，評語中說「他為科學哲學作出了重大的傑出貢獻」。
Judea Pearl還是美國國家工程院院士，AAAI和IEEE的資深會員，是以他兒子姓名命名的Daniel Pearl基金會的主席。Judea Pearl為不確定的條件下的信息處理創造重要的理論基礎，他的工作改變了人工智慧。他的工作超出了基於邏輯理論基礎的人工智慧，以及基於規則技術的專家系統範疇。他指出智能系統所面臨的不確定性是一個核心問題，並且提出概率論演算法作為知識獲取及表現的有效基礎。
他的研究影響了自然語言處理、語音處理、計算機視覺、機器人、計算生物學與錯誤控制編碼等領域。同樣重要的是Pearl的因果推理工作，他發現了基於圖形計算的介入，能夠使人們從行為與觀察的綜合因素中得到因果關係。這項工作已經促使計算機科學與人工智慧領域發生變革，對其他諸如流行病學、經濟學、哲學、心理學、社會學、統計學等相關學科也有較大影響。
~~~~~~~~~~~~~~~~~~~~~
【關於圖靈獎】被譽為「計算領域諾貝爾獎」的圖靈獎，今年頒給了美國加州大學洛杉磯分校（UCLA）的Judea Pearl教授，獎勵他在人工智慧領域的基礎性貢獻，他提出概率和因果性推理演演算法，徹底改變了人工智慧最初基於規則和邏輯的方向。
圖靈獎以計算機界傳奇人物阿蘭?圖靈(Alan Turing)的名字命名，自1966年創立以來一直用於獎勵在計算機科學領域取得成就的人。目前谷歌和英特爾都在資助圖靈獎，今年的獎金額為25萬美元。
(一)
因果推斷，是人工智慧的必由之路
2011年圖靈獎得主，貝葉斯網路之父Judea Pearl認為現在人工智慧的發展進入的新的瓶頸期，各種新的成果不過本質上不過是重複簡單的「曲線擬合」工作。Pearl 認為人們應該更關注人工智慧中的因果（Cause and Effect）推斷，這可能是實現真正智能機器的必由之路。
如今人工智慧的強大力量在很多方面要歸功於貝葉斯網路之父Judea Pearl。早在二十世紀八十年代，他領導的研究就能使機器能根據概率推理工作。在他的最新著作「《The Book of Why: The New Science of Cause and Effect》」中，他認為：由於人們對智能的真正含義不完全理解，人工智慧的發展正受到前所未有的新的阻礙。
三十年前，人工智慧研究的主要挑戰是將潛在原因與一系列人們所觀察到的現象聯繫起來。Pearl發現貝葉斯網路可以做到這一點。貝葉斯網路可以讓機器很容易的推理出，一個從非洲回來的有發燒和身體酸痛癥狀的患者可能是得了瘧疾。憑藉這項工作，在2011年，Pearl贏得了計算機科學的最高榮譽圖靈獎。
但是，正如Pearl所預見，人工智慧領域陷入了概率關聯的困境。如今，頭條新聞每天都在不停的報道機器學習和神經網路的最新突破，比如計算機可以在一些遊戲中戰勝人類，也可以駕駛汽車。
面對這些看似喜人的成果，Pearl卻高興不起來，他認為今天人工智慧領域的技術水平只不過是上一代機器已有功能的增強版，也就是在大量數據中發現隱藏的規律性。最近Pearl指出： 「幾乎所有的深度學習突破性成果本質上來說都只是些曲線擬合罷了」。
在他的新書中，現年81歲的Pearl詳細闡述了智能機器如何真正思考的願景。他認為，關鍵在於用因果推理來取代簡單推理。機器不僅需要把發熱和瘧疾聯繫起來，而且需要能夠推斷瘧疾為什麼能引起發燒。一旦有了因果推理能力，機器就有可能查詢某種干預而引起的因果關係如何改變。
Pearl將其視為科學思想的基石。Pearl還提出了一種形式化的語言，這種語言使得以「全新的貝葉斯框架驅動機器能夠以概率的方式思考」成為可能。
Pearl期望因果推理可以為機器提供人類智能。他解釋說，他們可以更有效地與人類溝通，甚至可以實現具有自由意志和邪惡能力的道德實體的地位。Quanta 雜誌採訪了他。這些對話的編輯和精簡版本如下。
為什麼你的新書叫做「The Book of Why」？
它是對過去25年來我一直在做的關於因果關係，它在一個人生活中的含義，它的應用以及我們如何提出對固有因果問題的答案的工作的總結。奇怪的是，這些問題已經被科學拋棄了。所以我在這裡彌補了對科學的忽視。
這是一個戲劇性的事情，科學已經放棄了因果關係。這不正是科學的全部內容嗎？
當然，但是在科學方程式中你看不到這種高尚的願望。代數是對稱的：如果X告訴我們有關Y的信息，那麼Y就會告訴我們有關X的信息。但是，沒有辦法用數學寫出一個簡單的事實 - 例如，即將到來的暴風雨導致晴雨表下降，但反過來，晴雨表下降並不會導致暴風雨。
數學還沒有開發出非對稱語言來捕捉我們的理解，即如果X引起Y並不意味著Y引起X。
但是科學更寬容：在我們缺乏對不對稱關係的的描述語言時，科學鼓勵我們創造一個。這就是用上數學的地方。對於我來說，看到簡單的因果演算解決了被認為是不明確或無法解決的問題，興奮不已。
幾十年前，你通過讓機器用概率方法推理在AI界成名。解釋當時人工智慧發生了什麼事。
20世紀80年代初出現的問題具有預測性或診斷性。醫生會從患者身上看到一系列癥狀，並提出患者患有瘧疾或其他疾病的可能性。我們希望自動系統和專家系統能夠替代專業人員 - 無論是醫生還是礦物探險家，還是其他類型的付費專家。所以在那時我提出用概率實現這個想法。
不幸的是，標準概率計算需要指數空間和時間。我想出了一個稱為貝葉斯網路的方案，它只需多項式時間，並且非常透明。
然而，在你的新書中，你將自己描述為今天在AI社區中背道而馳。為什麼？
只要我們的機器能夠以不確定的方式推理，我就會去追求更具挑戰性的任務：推理和因果關係。我的許多AI同事在不確定性做工作。有些研究圈子繼續在診斷方面做工作，而忽略因果因素。他們想要的只是預測好，診斷良好。
我可以給你一個例子。我們今天看到的所有機器學習工作都是在診斷模式下進行的 - 比如說將對象標記為「貓」或「老虎」。他們不關心干預;他們只是想識別一個對象並預測它將如何及時發展。
當我開發出用於預測和診斷的強大工具時，已經知道這只是人類智慧的小小一角。如果我們想要機器推理干預（「如果我們禁止香煙怎麼辦？」）和內省（「如果我讀完了高中怎麼辦？」），我們必須引用因果模型。關聯關係是不夠的 - 這是一個數學事實，而不是意見。
人們都對人工智慧未來巨大的潛力異常興奮，你怎麼看？
當我深入研究深度學習所做的事情時，我發現他們都被困在了簡單連接的層次上。曲線擬合（Curve fitting）這個詞聽起來像是一種不和諧，也就是說，深度學習取得的所有巨大成就再某種程度上都不過是對數據的曲線擬合而已。
從數學層次的角度來看，不管你如何巧妙地操作數據，以及你在操作數據時讀取的內容，它仍然是一個曲線擬合的訓練過程，儘管它看起來比較複雜。
你談論曲線擬合的方式，好像你對現在的機器學習並不太滿意
不，我對機器學習非常滿意，因為沒想到這麼多的問題可以用純曲線擬合的方式就能解決。但我想問的是未來——下一步呢？你能讓一個機器人科學家來規劃一個實驗，就能為懸而未決的科學問題找到新的答案嗎？我們還希望與一個有意義的機器進行一些溝通，有意義表示能夠匹配我們的直覺。
如果你剝奪了機器人對因果等的直覺，你就永遠無法有意義地進行交流。機器人不能說「我本應該做得更好」。因此，我們失去了一個重要的溝通渠道。
擁有和我們一樣有因果判斷直覺機器的前景是什麼？
我們必須使機器具備環境模型。如果機器不具備現實模型，那麼你不能指望它在現實環境中有智能行為。首先，人類編程的現實概念模型可能在 10 年內出現。
下一步是機器將假設此類模型屬於它們自己，並基於實驗驗證和修改模型。這就是科學中一直發生的事情：例如人類最初認同地心說，後來發現了日心說。
機器人也是一樣，它們將彼此溝通，將這個假設的世界轉換成隱喻模型（metaphorical model）。
您是何時與當前研究AI的人分享這些觀點的？他們有什麼反應？
AI 目前是分裂的。首先，一部分人陶醉於機器學習、深度學習和神經網路的成功之中。他們不理解我的觀點，只想繼續進行曲線擬合。但是和在統計學習範疇以外研究 AI 的人們談論這些時，他們立刻可以理解。我讀了一些近兩個月關於機器學習局限性的論文。
您是說出現了一種拋棄機器學習的趨勢嗎？
不是趨勢，而是一個嚴肅的內省過程，涉及這些問題：
我們去向何處？下一步是什麼？
這是我最不想問您的問題
我很高興你沒有問我關於自由意志的問題。
那麼您怎麼認為自由意志呢？
我們將開發出具備自由意志的機器人，絕對會。
我們必須理解如何編程機器人，以及我們能從中得到什麼。由於某種原因，就進化方面而言這種自由意志在計算層面也將是需要的。
以何種方式？
你具備自由意志，進化已經賦予我們這種感覺。很顯然，它提供了一些計算功能。
機器人具備自由意志時會有明顯的跡象嗎？
我認為第一個跡象將是機器人開始反事實地彼此溝通，如「你應該做得更好」。如果一組踢足球的機器人開始用這種語言溝通，那麼我們將知道它們具備了自由意志。「你應該傳球給我，我剛才一直在等，但你沒有把球傳給我！」「你應該……」（You should have）意味著你本應該做什麼，但是沒做。因此第一個徵兆是溝通，第二個是踢出更好的足球。
既然您提到了自由意志，我想我應該問您關於作惡能力的問題。我們通常認為作惡的能力是選擇的能力。什麼是惡呢？
人們認為惡是貪婪或不滿取代了社會的所有規範。例如，某人具備一個類似會說「你餓了，因此你可以做一些事來滿足自己的貪慾或發泄自己的不滿。」的軟體模塊。但是你具備其他軟體模塊，可以指導自己遵循社會規範。其中一個叫做同理心（compassion）。當你抬高自己的貪慾，超過了社會通用規範，那麼這就是邪惡。
那麼我們如何知道AI何時掌握作惡能力？
當機器人一直忽略一些軟體模塊時，這對我們來說就是一個明顯的跡象。還有當機器人遵循一部分軟體模塊的建議而不聽另外模塊的建議時，當機器人忽略那些維持行為規範的模塊的建議時，當機器人停止遵循這些模塊時。
（二）
價值中國專訪圖靈獎得主Judea Pearl
價值中國：Judea，您在很多領域都有建樹，且影響遍及全球。很高興您能接受採訪，分享您的智慧與經驗。
Judea Pearl：很高興能有機會與大家交流。
價值中國：您何時得知自己獲得2011年度ACM圖靈獎？圖靈獎堪稱計算機領域的諾貝爾獎。您獲獎的心情怎樣？您的同事與家人呢？
Judea Pearl：當我得知這個消息的時候簡直難以置信，因為我主要的研究領域並不是計算機科學，同事和家人都為我高興，因此，我的心情是複雜的，有激動也有驚訝，很高興圖靈獎評獎委員會肯定我在人工智慧與計算機科學外圍領域的工作。我女兒跟我開玩笑說我出名了，其實，我的生活還是一如既往的平凡。
價值中國：在以色列的教育經歷對您畢生的成就有什麼影響？
Judea Pearl：我認為自己所受的教育是獨一無二的，我的老師都是來自德國等地的精英，我從他們的教誨中受益匪淺，我從小就接觸很多挑戰性的科學問題。我們的課程從不做筆記，只是大家在一起討論解決問題，那個時候我還沒有意識到這種教育方式的優勢。
此外，我受的教育建立在民族構建的獨特文化之上，整個社會處在百廢待興的狀態，這造就了自由教育的形成。記得我的數學老師總鼓勵我們成為對數學研究有所貢獻的人。
很幸運大學時代也遇到了很好的老師，我們與老師的交流很多，老師要求我們課堂上就要真正理解課程的內容。這與我在UCLA（加州大學洛彬磯分校）的感受不一樣，這裡的學生可能更傾向於課後自學，而我們在課上就要了解所有內容，不懂的要及時問老師。
我真的很幸運，因為上世紀50年代的以色列經濟社會情況都不是很好，但政府對教育的投入卻沒有因此減少，這歸功於當時領導人的高瞻遠矚，我們都從中受益。總之，我總是提醒自己我能得到今天的一切，大部分是因為我所受的教育以及以色列民族構建的精神文化。
價值中國：您剛談到您上大學的時候，以色列政府沒有因為財政困難而消減教育經費，課堂上卻充滿了激情和互動。這與美國目前的教育體系相較有何不同？
Judea Pearl：我認為美國現在的教育體系應該創新。教育者應該把數學與科學的教育，放在發現真理的歷史大背景中，而不是只按照學科問題的邏輯來分層次，而應該讓學生了解世界的科學大圖景，了解這些知識是怎麼被發現的。
這會讓學生感到科學不是一門枯燥的學問，而是一門充滿人性的學問。學生可以了解到人類的智慧怎樣一步步揭示自然的奧秘，學生將成為一個偵探。當然，教育經費也很重要。不過，即使沒有太多經費，優秀的老師都是用心的，用心在教育學術。
價值中國：您之前曾在RCA（美國無線電公司）就職，是什麼動機讓您轉入學術界，而獲得今天的成就？
Judea Pearl：RCA位於新澤西州，這裡科技發達，幾乎每個人都清楚電腦科技的未來，他們利用電腦科技探索自然現象以獲得競爭力。我的工作主要是研究超導存儲設備，那時是一段難忘的日子。
不過後來因為半導體在存儲設備中的廣泛應用，我們的工作最終停止。我必須找到一份工作，於是轉入學術界。因為當時企業界的人有點輕視學術界，企業界的人很容易轉向學術界發展，最終我就投入現在的研究工作中。
價值中國：您如何在眾多領域都取得成就呢？諸如機器推理、機器人、自然語言處理、計算機視覺、經濟計量學、認知科學、統計學、哲學、心理學、流行病學、社會學等等。
Judea Pearl：你剛才提到那麼多領域，很容易讓人產生錯誤的印象，就是我是那麼多領域的專家。呵呵。事實上，這些領域都有一個共同之處，那就是「不確定性」。它們潛藏於不確定與噪音數據之中，需要有一個濾除噪音、找出真正意義的原則，我的工作與不確定性息息相關。
很長時間以來，我都認為概率是最主要的準則，如果概率很大的話，你能保證會得到一個能夠接受的答案，但是很少會有大驚喜。我跟自己說，如果你輸入正確的數據，你的答案會像預期的一樣。這個應用到計算機，根據期望就可以了解哪種原則是正確的。
價值中國：我想因果關係研究也與哲學密切相關。
Judea Pearl：是的，問題是他們為何以「假設事實」而不是其他方式，來解釋因果關係？肯定是假設事實在認知上看起來更加真實，問題更少，更加深入我們的直覺。
價值中國：介紹一下您廣泛的研究經歷，及其持續的影響與有價值的教訓。
Judea Pearl：不管怎樣，我可以用三句話總結我的經驗，有關人類的推理方式：第一，人們依靠概率推理；第二，人們不按照概率推理，而按照因果關係推理；第三，人們不按照因果關係推理，而按照違反事實的情況思考。
這是對我的研究有持續性影響的三個因素。在規則系統內部，這三個因素本身已經發展成因果關係，從觀察與知識方面只能產生一點影響。人們應該從三個層次來看待我的工作影響：概率、因果關係、違反事實的情況。
價值中國：我們都能看到您的工作成績及其背後的智慧，這不僅成為您生活的轉折點，更是您研究領域的轉折點。
Judea Pearl：這對我的研究領域確實有影響，這給予人工智慧領域的研究者以自信，使他們能夠將知識轉換成特定的符號，賦予知識特定的意義，並且對相關領域都產生影響，特別是在機器人研發領域。
價值中國：您認為機器人可自由工作，那麼您曾利用機器人參與過什麼研究？
Judea Pearl：我們可以看到機器人驚人的下棋技能，它利用的就是因果假設原理，它可以根據對手的反應選擇最佳的方式回應。當你問到「機器人是否能夠通過自由意志工作」這個問題，有人就會爭論說每一個下棋機器都有自由意志，否則它不會自己選擇怎樣走下一步棋。這個表面現象蘊涵著非常深刻的哲學問題，在這種特定條件下，你可以說機器有自由意志。
其實，許多科學家都認為自由意志是一種幻想，人類是否有自由意識都是一個值得爭論的哲學問題。更沒有人會認為機器人有自由意志。問題是我們能夠以自由意志來利用機器人嗎？這是一個技術問題。
如果一個機器人能夠知道為什麼要做某種動作的話，它才具有自由意志。比如，機器人擁有交流功能，一個機器人告知令一個機器人哪裡做錯了，有了這樣的交流功能，它就能夠自由的發布命令。
價值中國：很有趣的觀點，這是您目前的研究重點嗎？這個研究及應用的成果是什麼？
Judea Pearl：我不能確定，我只是希望這可以引導人與機器之間更加友好的對話，這也會促使機器之間更加有效的交流，在社會福利、人際交流等方面。
這些觀念會促使我們有所行動，如果我們可以將他們轉換成機器社區，我們在與機器交流方面將是一個很大的成就。我們人類是社交動物，與機器交流就要理解社會變化，這個假設在社交方面是基本的基石。
價值中國：您在研究中面臨的最大挑戰是什麼，從這些挑戰中會得到哪些有價值的教訓？
Judea Pearl：我遇到最大的挑戰就是把一種（科學）語言轉換為另一種，從概率到因果關係再到假設。如果要我教給年輕朋友我的經驗，我會鼓勵他們擁有一種轉換語言的彈性，這是在研究工作中最難克服的一點，我希望以後的教育能夠解決這個問題。
價值中國：您怎樣培養這種轉換語言的能力？
Judea Pearl：我認為可以通過不斷的論證，你不能在一種語言內部解決一系列問題，你可以很容易在另一種語言中解決，論證轉換的優點。第一種、第二種語言不合適，第三種也許就是最佳答案，這是我在研究中的最大的樂趣，用這種方法不行就嘗試另外一種。
價值中國：可是很可能多數人都有一種共同的想法，就是拒絕改變，您認為這是什麼原因？
Judea Pearl：有很多因素，我關注的是語言間的轉換。語言是教條主義最大的保護者與宣傳者，人們從小就學習語言，很難改變，這種情況同樣發生在科學領域，即使有時會發現自己的語言不能準確表達真正的含義。研究表明，團體的教育、周圍的政治環境對人都有影響，但最主要的還是轉換語言的自由。
價值中國：您能談談您研究領域中其它的爭論嗎？
Judea Pearl：目前，統計學領域有一個很大的爭論：假設推理是否有用。你不能預測假設，不能反駁假設陳述，因為這是關於未發生事情的內省，這些是哲學性問題，這個爭論就是統計學是否應該藉助這種語言，因為你不能檢驗沒有意義的事情。
價值中國：宗教神話難以表達，觀點的隱喻也是另一個有爭議的領域，您對此有何評論？
Judea Pearl：許多科學家都對宗教話題很感興趣，我不相信有人有超能力。但是，在計算機領域，我們將人們的交流翻譯為有意義的內容，我發現信徒之間的交流是有意義的，這種交流充滿了隱喻，比如做壞事會被懲罰。
這影響人們做善事的觀念，長此以往，這會產生很多意義，一個人做壞事，會影響年輕人，繼而影響整個社會，最終始作俑者也將自食其果。這給我一種與不同信仰的人交流的力量，我將他們的語言翻譯成新的計算機語言。
價值中國：您為許多創新活動奠定過基礎性的工作。從您的經驗中有什麼挑戰和問題需要今天的年輕人解決，並激發他們從事計算機行業的興趣？
Judea Pearl：我建議年輕人應該按照他們的直覺進行研究，按照最初的好奇心來了解自己，我想這應該是很多科學家的想法。首先要了解自己才能具有競爭力，人類許多行為都可以被機器模仿。
價值中國：對於那些對計算機的未來有興趣而沒有教育基礎的年輕人來說，您怎樣向他們解釋概率、因果關係、貝葉斯網路以及假設？
Judea Pearl：這個很簡單，幾分鐘就能解釋清楚。世界上很多事情都是不確定的，不過人類可以駕馭它們，問題是計算機怎麼管理不確定的事情？這就是概率的工作。學生喜歡一個領域通常就是以前沒有翻譯成他們理解的語言，而現在要翻譯，並且看你的直覺怎樣被正式規則擴大，這種擴大對學生（不管是計算機科學領域還是其它領域）都是一種普遍的吸引。
價值中國：何種具體的品質讓您能夠脫穎而出？
Judea Pearl：我認為有兩點，一點是我很懶惰，我不喜歡計算，經常依靠計算機，我喜歡利用機器幫我工作；另一點就是堅持不懈的工作。
價值中國：過去、現在與未來，誰對您產生的影響較大？
Judea Pearl：許多偉大科學家的故事對我的影響都很大，比如伽利略在比薩斜塔的實驗。近代科學家我認為是布爾（計算機代數創始人）、仙農（資訊理論創始人）、以及愛因斯坦。
價值中國：您不斷為學術發展做出歷史貢獻，社會地位也隨之高漲。這對您看待世界、社會、產業、學術以及技術的觀點有什麼影響？
Judea Pearl：這很危險，因為當一個人有了較大的影響力，人們會希望他在任何領域的觀點都是正確的、充滿智慧的，我要說的是事實並非如此。可能我在計算機相關領域有一些正確的觀點，例如呼籲國家提倡統計學教育與科學教育；在社會學領域，我認為媒體歪曲了因果影響關係理論，我能夠在這些領域利用專業知識。但是，我很少對不太熟悉領域的問題做出評論。
價值中國：您認為我們今天在哪個領域面臨的挑戰最大？
Judea Pearl：我認為最大的挑戰在教育領域，包括科學教育與社會教育。現在既要教育大家為本國的文明自豪，又要學習他國的長處，教育人們明白「不同」的尊嚴與「相同」的意義是相當困難、但是很值得敬重的。我所受的教育就是這樣，我想這樣的教育在下一代會很普遍，也希望它能生機勃勃。
價值中國：最後，請問您對丹尼爾·珀爾（Daniel Pearl）基金會的期望是什麼？
Judea Pearl：我們設立這個基金會旨在加強不同文化之間的相互理解，共同抵制仇恨，因為我的孩子Daniel pearl的事情，這個基金會在世界範圍內都產生了影響。我們號召人們團結起來做慈善，並且很快得到大家的響應。
基金會主要關注三個方面：新聞業、音樂、對話。我們了也將穆斯林地區記者的活動傳播到世界各地，發放新聞獎學金；在世界各地舉行珀爾世界音樂月，希望通過音樂增強友誼，促進和平；我們還組織青年活動、講座與宗教之間的對話，到處旅行，宣傳基金會的理念。
TAG:價值中國 |