侯世達：為什麼人工智慧還遠遠談不上「智能」？

人工智慧的最終歸宿也許會回到侯世達（Douglas Hofstadter）。1979 年他寫了《哥德爾 埃舍爾 巴赫——集異璧之大成》一書，由此獲得普利策獎。現今 72 歲的侯世達一直默然思考著「思考」（thinking），以及如何通過計算機實現它。他認為當下的 AI 毫不「智能」，並擔憂人類由此誤入歧途。關於 AI 當前的現狀，哪些做錯了？前方又有哪些危險？帶著這一初衷，Quartz 採訪了侯世達。

編譯 | 路雪、黃小天

來源 | Quartz

作者 | Nikhil Sonnad、Dave Gershgorn

侯世達，一個思考「思考」的人

人工智慧研究初期的二十世紀五六十年代，目標是通過模仿人類直觀理解世界的能力，創造像人一樣思考和學習的計算機。但是「思考」（thinking）遠比想像的要複雜，1950 年代的計算機還無法實現它。這令人灰心喪氣，最終導致人們徹底放棄了對「思考」的思考，轉向通過海量數據訓練計算機解決具體任務，即導致了當下的人工智慧（深度學習）大爆發。計算機在國際象棋上戰勝人類，靠的不是對棋藝的不懈追求，而是檢索數百萬棋譜選擇獲勝的最優解。

2017 年，AI 似乎再次與這一古老的問題相遇：如何使計算機更像人。深度學習先驅 Geoffrey Hinton 在 Axios 的採訪中說自己陷入了「深深的懷疑」，深度學習本質上是一種體力活。相反，計算機應該足夠靈活，像人一樣學習一切，而無需各種各樣的數據集。

面對 AI 的這些轉變，美國印第安納大學認知科學與比較文學教授侯世達對「思考」（thinking）的思考從未間斷。他認為當下的 AI 毫不「智能」，並擔憂人類由此誤入歧途。關於 AI 當前的現狀，哪些做錯了？前方又有哪些危險？帶著這一初衷，Quartz 採訪了侯世達。

Quartz：首先我們談一下計算機對語言的理解能夠達到什麼程度。為了實現語言之間的高效翻譯，機器必須對世界有深刻的理解，是嗎？

侯世達：當我想到翻譯的時候，我想到的是把譯文與原文對應起來，做到對等。因此，如果原文富有藝術之美，那麼譯文也應如此。但這顯然在谷歌翻譯的能力範圍之外。

谷歌翻譯沒有理解力，致使其翻譯漏洞百出。有句德文的正確英文譯文是「The maid brought in the soup」，而谷歌卻翻成「The maid entered the soup」。它翻對了「maid」，但譯文的意思是錯的，在現實生活中壓根兒就不會發生。

我不是有意刁難谷歌翻譯，我真正想表達的意思是要始終記住，計算機只使用「詞」，不理解「詞」。

Quartz：這就是你所謂的「伊麗莎效應」（Eliza effect）？

侯世達：伊麗莎效應是指僅僅由於我們使用語言，賦予單詞或片語它們原本並不具備的意義；因此，當另一實體使用字詞並將其一一呈現在屏幕上，或者說出它們時，我們很容易認為屏幕之後的實體也有「智能」，能夠思考。但實際上這完全是錯的。

Quartz：你認為計算機在不理解字詞意義的前提下，有可能像人一樣做到信達雅的翻譯嗎？

侯世達：不，我完全不這麼認為。因為真實世界非常非常複雜。

Quartz：我們需要其他術語來進一步界定 AI，以進一步證明它無法真正表徵「智能」嗎？

侯世達：這個問題很有趣。我並不認為我們現在擁有了「智能」。比如讓我們回到這幾年盡人皆知的自動駕駛汽車。

我曾開車從印第安納布魯明頓（Bloomington）的家裡去芝加哥做演講，一兩個小時後，高速上出現了非常嚴重的擁堵。我離芝加哥還很遠，但路完全堵住了，我該如何做呢？有些人開始掉頭，下高速，抄小路避開擁堵，。這可行，但有些車卻因此陷入草地的泥沼之中。因此，我在想，我要這樣做、冒這個險嗎？

假如我不趕時間，我可以慢慢前行直到穿過擁堵，但是現在我必須儘快趕到芝加哥。我已經堵了一個小時，時間所剩無幾。現在我該如何做？我要承擔多少損失？這次演講對我非常重要嗎？如果我打電話告訴他們我遲到半小時或者一小時呢？因此我在車上獨自思考著，一會兒我要在限速 70 的車道上開 80 嗎？或者開 90？我到底要開多快？

對我來講，這就是「駕駛」。真正的駕駛有很多現實世界的因素牽涉其中。

如果你放眼世界，其中的情景沒有規則，不會像國際象棋或圍棋那樣井井有條。現實世界中的情景沒有邊界，沒有內外。

Quartz：如果人們認為「機器智能」也在思考，會困擾你嗎？

侯世達：如果你問我理論上計算機硬體能否做到像人一樣思考，答案當然是肯定的。計算機硬體能做大腦做的任何事，只是現在還未做到。我們對大腦的模仿停留在表面，並且有不少人走錯了方向。有時機器的表現十分出彩。

當時我步入該領域的感受是這樣：創建看起來像是在思考的程序很有趣，創建像人一樣會一點思考的程序也很有趣，這使你覺得正在逼近「思考」的本質，並且你做的越精妙，效果就越好。

我比較認可機器也在緩慢進化的想法，這使我覺得人類才是終極目標，人類智能是一個奇蹟。

換言之，我認為從計算機智能通達人類智能存在著一種漸近的方法，漸近意味著從下方接近它，而不是超越它。這就像是一條曲線逼近一條直線，一直在直線下方移動。

但是，隨著 AlphaGo 和深藍不斷取得勝利，人們開始猜想人類這條線是否會被越過，就像深藍所做的那樣。兩條線匯在一起，它們交叉了。沒有漸近，只有交叉，接著計算機這條線開始直線上升。

對我來講，這是如此不同的一幅畫面，我不喜歡它。

真正使我恐懼的是人類思想覆滅，散入塵埃的場景。人類之於計算機就像蟑螂或跳蚤之於人類，我們沒有得到計算機的幫助或加持，卻被其徹底毀滅。這讓人不寒而慄。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！