中文房間思想實驗是什麼？它是否成功地否決了圖靈測試的有效性？

1950年，阿蘭-圖靈提出了著名的」圖靈測試「(Turing Test)作為判斷人工智慧的標準。他認為，如果一台計算機能夠在問答中讓人無法分辨是否是計算機，那麼這台機器就具有了智能。這一測試也成為了檢驗人工智慧的經典標準。

1980年，加州大學伯克利分校的哲學教授John Searle提出了「中文屋」(Chinese Room)思想實驗，並且認為該思想實驗否決了圖靈測試的有效性。即使計算機通過圖靈測試，也不算真正具有智能。

「中文屋」思想實驗究竟是什麼？它是否駁倒了圖靈？到底什麼才是智能的檢驗標準？

我個人非常，非常，非常喜歡Chinese Room Argument，儘管它離它的原本想要達到的最終目的還差了一些——駁倒圖靈測試背後的想法，即行為主義或功能主義(Behaviorism/Funtionalism)，或者說，一切將心靈現象還原為物理現象的思想流派(Physicalism)。這個任務要等到1986年Frank Jackson寫"What Mary Didn t Know"，提出Knowledge Argument，才更接近完成。我喜歡它的主要原因1.名字里有Chinese 2.簡潔形象好玩兒，展現了哲學命題的力量。

1980年，UCBerkley的哲學教授John Searle發表了一篇題為"Minds, Brains and Programs"的論文。在這篇論文中，Searle旗幟鮮明地反對圖靈：他認為一個計算機程序通過圖靈測試並不意味著它具有智能，而至多只能是對智能的一個模擬。為了論證自己的觀點，Searle提出了一個名為「中文屋」(Chinese Room)的思想實驗。

這個思想實驗的內容大概如下。

想像一個從小說英語但完全不會中文的人被反鎖在一個房間里。房間里有一盒中文字卡片和一本規則書(rulebook)。這本規則用英文寫就，告訴房間里的人一些如何操作漢字卡片的規則，但並沒有告訴這個人任何一個中文字或者中文詞句表示的含義。（注意，這本規則不是漢英字典！只是一個操作特定漢字卡片的規程）這本規則的本質其實是一個程序（任何一個圖靈機上可運行的程序都可以被寫成這樣的一本規則書）。現在，房間外面有人向房間內遞送紙條，紙條上用中文寫了一些問題（輸入）。假設房間內的規則書（程序）寫得如此之好，以至於，房間里的人只要嚴格按照規則書操作，就可以用房間內的中文字卡片組合出一些詞句（輸出）來完美地回答輸入的問題。於是，這個人提供的輸出通過了關於「理解中文」這個心智狀態的圖靈測試。然而，Searle指出，這個人仍然一點不會中文。更進一步，在無論是在這個房間中，還是考慮這個房間整體，都找不到任何理解中文的心智存在(There is no mental state of understanding Chinese in the room)。因此，通過圖靈測試並不意味著擁有智能或者心智。

（是的這張照片就是Searle)

下面是1999年Searle簡寫過的一個版本:

「Imagine a native English speaker who knows no Chinese locked in a room full of boxes of Chinese symbols (a data base) together with a book of instructions for manipulating the symbols (the program). Imagine that people outside the room send in other Chinese symbols which, unknown to the person in the room, are questions in Chinese (the input). And imagine that by following the instructions in the program the man in the room is able to pass out Chinese symbols which are correct answers to the questions (the output). The program enables the person in the room to pass the Turing Test for understanding Chinese but he does not understand a word of Chinese.」

Chinese Room Argument其實比表面上看要複雜。那篇80年的經典論文整整寫了20頁，這個Argument本身只佔了1頁。在後面的十多頁中，Searle做了幾乎所有20世紀歐美哲學家寫論文時候大部分時間在做的事情——考慮可能的反駁，並試圖將其一一消解。在這個時代做哲學，光有一個牛逼的直覺是不夠的，還得擅長以別人信服的方式論證和捍衛自己的觀點。Searle在發表這篇論文前已經在各學校的研討會上和其他哲學家交流過自己的想法，對於各種質疑，Searle也是見得太多了。在文章的後半部分Searle回應了對中文屋實驗的至少六類不同的反駁：系統反駁(System Reply), 機器人反駁(The Robot Reply)，大腦模擬器反駁(Brain Simulator Reply)，組合反駁(Combination Reply)，其他心智反駁(Other Mind Reply)，多實現反駁(Many Mansions Reply)等。（這些都不太好翻譯…見笑了）

這六類反駁中，比較符合大部分人直覺的是前兩個，System Reply和Robot Reply。Combination Reply其實是把前兩個組合在一起。另外三個，Searle回應所用的篇幅相對較小，因為他認為這些反駁並沒有駁到點上，對此我也同意。因此在接下來的篇幅中主要討論一下System Reply和Robot Reply。

先來看System Reply。

一個很直覺的想法是，雖然房間里的人不懂中文，房間里的書、卡片也不懂中文，但是，考慮這個房間作為一個整體的話，這個房間似乎可以說是懂了中文的。之前其它答主們的回答都是基於類似的直覺。正如@張居正等知友提到，就像人類的腦細胞本身沒有意識，但是大腦作為腦細胞的集合體是有意識的。這就是System Reply了：房間作為一個系統，總體來說具有某種心智狀態。

然而Searle嘿嘿嘿一笑，祭出了下一個更變態的思想實驗。他說，想像房間里的這個人在房間里呆了足夠久，已經把規則書和中文漢字的形狀都牢記在心。於是我們打開房門讓此人走出房間。現在，她走在大街上，自己本身變成了一間行走的中文屋。房間的其他部分，即規則書和漢字卡片，都已經被她內化了。Searle稱此情景為Internalized Room。此時，如果別人傳遞給她中文字條，她還是能對答如流，但是她並不知道任何這些筆談的真正內容！如果我們問她，我送你一朵小紅花吼不吼啊？她說吼啊！但她並不知道我們在談論的任何一個詞，比如「小紅花」、「我」、「你」,「吼」等等的一丁點兒含義。即是她面前有一朵小紅花，她也不會知道我們的句子其實是關於這朵花的。這麼一看，房間整體似乎也還是不懂中文的。

Searle因此指出，通過圖靈測試的中文屋和它背後的程序所達到的只是對於「理解中文」這個心智狀態的模擬，而並不是真正的對中文的理解。（鐵杆的System Reply的支持者會說，內化了規則書和卡片的那位同學雖然本人並不懂中文，但是她大腦中的某個子系統(sub-system)理解中文。這種反駁我個人認為有些勉強。）真正的對語言的理解，乃至任何一個心智狀態的存在，都需要思維主體知道心中所想到底意指何物。這一點在哲學上被稱為Intentionality（是不是翻譯成意向性？但好像和現象學那個意向性不是一個東西）。Searle認為，計算機和程序無法達到意向性，它必須由人腦或者具有人腦類似的生理結構和組成的組織才能達到。我不太同意Searle在這裡的看法，限於篇幅和主題，在這裡暫時先放過。

如果System Reply有問題，Searle的反對者們還有Robot Reply。

有些人認為，意向性完全可以由電腦和機器來達到。既然這個房間作為一個系統不能把漢字元號和它們所對應的物體聯繫在一起，那麼我們想辦法建立這種聯繫即可。把這個房間接上一系列感測器，比如攝像頭、麥克風、觸覺、味覺感測器等，以及一系列運動處理器，簡單來說，把這個房間變成一個機器人的大腦。再修改一下規則書，使得這個房間不僅僅能處理中文文字的輸入輸出，而是可以處理整個機器人身上的聲光電觸熱等感測器所受到的「感覺」信號，並且給出相應的輸出，不僅有文字、聲音甚至還有肢體行動。這個房間可能需要縮小，比如用蟻人的技術縮小後放入機器人腦中；或者不用縮小，我們讓這個房間遠程接收信號。現在，我們面對這個機器人，指著手裡的小紅花，說我送你小紅花吼不吼啊？和System Reply里的姑娘不一樣，機器人不僅僅會回復說吼啊，它的視覺系統就會鎖定小紅花這個物體，並且微微一笑接過花朵。我們是不是可以說這個機器人知道了它所說的漢語句子的含義，從而也真正具有了「理解中文」這樣一種心智能力呢？

Searle依然不肯退縮。他說，還記得機器人腦袋裡的房間里的歪果仁嘛？這個小人兒(Homunculus, 拉丁文homo的小詞，直譯即小人兒)在屋裡收到的來自機器人感測器的信號，完全可能並非是直接的圖像、聲音等，而是一串數字化的數據。比如，機器人的「眼睛」，即攝像頭，看到一朵花時，並不是說房間里有個屏幕上面反映出了小花，而是攝像頭採集到了一串數據傳送到房間里由我們的小人。此時，儘管小人給出了一串輸出數據，引領機器人「說」出了中文的「花」這個詞語，並且「伸手」去採摘，但小人仍然不知道他剛才的操作是關於一朵花兒。意向性似乎依然缺乏，因此真正的理解似乎還是不存在。此為Searle的Homunculus Argument。

對於Homunculus Argument的回應方式之一是將System Reply和Robot Reply結合在一起，即所謂的Combination Reply。雖然屋內小人不理解中文，但機器人作為一個整體似乎真的具有了某種心智理解能力。至少在外觀、行為、功能上，這個機器人不僅可以用中文對答如流，而且處理一切事物似乎與正常中國人無異了。我們似乎沒有理由說這樣完美的機器人不具有智能，就像《西部世界》里的Hosts，或者機械姬：他們看著像人，摸著像人，說話做事兒都跟人一摸一樣了，有什麼理由拒絕承認他們具有心智呢？

關於這點，John Searle給出的回應不是很令我滿意。至少在我看來，他只是反覆強調某些特定的意向性只能由人腦的生理結構給出，但對於這個斷言本身他沒有提供更深層次的理由。大家可以自己把他的論文找來看看，自己得出自己的結論。

至於Chinese Room Argument是否成功否決了圖靈測試的有效性這個問題，和所有哲學問題一樣，其實是見仁見智。我個人的傾向於認為，Searle的大方向是正確的：圖靈測試及其背後的Functionalism是不對的。不過Chinese Room還是離真正的核心問題差了一步。完美執行人類所有功能的機器人仍然可能缺乏真正的意識，不過這裡的理由在Chinese Room Argument里並沒有涉及。如前文所述，意識的真正核心問題，至少在當今大多數哲學家看來，可能是Frank Jackson在1986年的論文中指出的Qualia。然而這又是另一個問題了。挖個坑，以後填。

不管Chinese Room Argument是否駁倒了圖靈，我還是覺得它是一個非常有意思的思想實驗，關於它的討論也集中了許多最優秀的當代哲學家的工作。然而比較諷刺的是，這個叫做中文屋的思想實驗在中國被討論得並不多。在這裡做了一些微小的介紹，希望大家一起討論，多多批評指正。

1/15/2017補充 這幅漫畫的最後一格反映了很多評論中的朋友們的感覺

參考文獻

1. Searle, John. R. (1980) Minds, brains, and programs. Behavioral and Brain Sciences 3 (3): 417-457 這就是那篇著名的論文原文，有免費的pdf在這裡可以找到:

http://cogprints.org/7150/1/10.1.1.83.5248.pdf

2.The Chinese Room ArgumentStanford Encyclopedia of Philosophy上關於Chinese Room的介紹，寫得非常好，把主要流行的各大Reply都總結進去了。

3. Block, N., 1978, 『Troubles with Functionalism』, in C. W. Savage (ed.),Perception and Cognition: Issues in the Foundations of Psychology, Minneapolis: University of Minnesota Press. 這是我校老師Ned Block寫的一篇文章，在Searle的文章之前，也談到了類似的想法。圖靈測試背後的想法即是functionalism，而Block這篇文章也是從一些角度指出了functionalism可能存在的問題。巧合的是Block也想到了一個跟中國有關的思想實驗，叫The Chinese Nation。文章很短，而且Ned Block寫東西很好玩，即使為了Chinese Nation也值得一看。

4. Turing, A 1950, 『Computing Machinery and Intelligence』,Mind, 59: 433–460. 圖靈自己對於圖靈測試的闡述。