機器意識能走多遠：未來的人工智慧哲學

知識 11-18

機器意識能走多遠：未來的人工智慧哲學

機器意識能走多遠

未來的人工智慧哲學

周昌樂

作者簡介：周昌樂，廈門大學智能科學與技術系教授，哲學系兼任教授，博導，中國人工智慧學會理事兼福建省人工智慧學會理事長，研究方向為機器意識，腦機融合，哲學實驗，主要著作有《無心的機器》《認知邏輯導論》《心腦計算舉要》等。

人大複印：《科學技術哲學》2016 年 10 期

原發期刊：《學術前沿》2016 年第 20167上期第 81-95 頁

關鍵詞：機器意識/ 智能哲學/ 唯識理論/ 計算能力/machine consciousness/ intelligence philosophy/ consciousness-only theory/computing ability/

摘要：意識是人類最為神奇的心理能力，也是宇宙中最為神秘的複雜現象。正因為如此，對於人工智慧終極目標的實現而言，開展機器意識也就成為其繞不開的一個前沿性難題。機器意識研究不但對深化人工智慧的研究有著重要的推動作用，對從科學上解釋神秘的意識現象也同樣具有非同尋常的意義。目前，機器意識的研究可以分為面向感知能力實現的、面向具體特定意識能力實現的、面向意識機制實現的、面向自我意識實現的以及面向受蘊能力實現的這五個類別，而意向性依舊是實現機器意識能力不可逾越之界線。對於機器意識的研究與開發，我們應當擱置有爭論的主觀體驗方面的實現研究，圍繞意向性心識能力，採用仿腦與量子計算思想相結合的策略，來開發具有一定意向能力的機器人，並應用到社會服務領域。

機器意識研究的興起

自二十世紀九十年代以來，意識問題受到高度關注，眾多的哲學家、心理學家與神經科學家在此領域開展深入的研究工作。與此同時，人們也開始使用計算方法試圖讓機器裝置擁有意識能力。這類研究逐漸被稱為「機器意識」的研究。早期有關機器意識的研究比較初步，研究工作較少得到學術界的認同，甚至早些年提到「機器意識」還有不合時宜的顧慮。

儘管哲學上關於「機器意識」有著不同觀點的爭論，但隨著研究工作的不斷深入，一些有遠見的專家學者開始充分認識到開展機器意識研究的重要意義，並專門撰文進行了精闢論述。比如，英國皇家學院電子工程系的Aleksander教授根據學術界從上世紀九十年代到本世紀對機器意識態度的轉變，指出機器意識的影響與日俱增，並預計了機器意識對科學與技術發展的潛在影響，特別是在改變人們對意識的理解、改進計算裝置與機器人概念等方面的貢獻尤為重大。

無獨有偶，美國伊利諾伊大學哲學系Haikonen教授則專門撰文強調機器意識是新一代信息技術產業發展的新機遇，他認為新產品與系統的發展機會起因於信息技術的發展，而現有的人工智慧基於預先編程演算法，機器與程序並不能理解其所執行的內容。顯而易見，不考慮意識就沒有對自身行為的理解，而機器意識技術的湧現可以彌補這一缺失，因此機器意識技術可以為信息技術產業的發展提供新的契機。義大利巴勒莫大學機器人實驗室的Chella教授則指出，開展機器意識不僅是一種技術挑戰，也是科學和理論上開展人工智慧和機器人研究的新途徑。最近，土耳其中東技術大學的和Sayan兩位學者進一步認為，開展機器意識的計算建模研究還有助於推進對人類意識現象的理解，推動構建更加合理的意識理論。

上述這些學者的論述，無疑說明，機器意識研究不但對深化人工智慧的研究有著重要的推動作用，對從科學上解釋神秘的意識現象也同樣具有非同尋常的意義。正因為機器意識研究有著如此重要的科學意義和推動未來信息技術革新的潛在價值，隨著最近十年的研究發展，該領域已經成為學界廣泛關注的熱點。與此同時，數量相當可觀的研究成果和實驗系統已逐步形成，有些成果已經被運用到實際機器認知系統的開發之中。機器意識研究已經成為了人工智慧最為前沿的研究領域。

機器意識研究的現狀分析

2006年之前的有關機器意識的研究狀況，英國皇家學院電子工程系的研究團隊已經做過了比較全面的綜述。因此，我們這裡主要就在此之後國際上有關機器意識的研究概況和發展趨勢進行分析。據我們的文獻檢索，截止到2015年底，在機器意識研究領域發表過的學術論文超過350餘篇，其中最近十年發表的論文佔了一半以上。歸納起來，由於對意識的哲學解釋不同，目前機器意識方面的主流研究往往是以某種意識科學理論為出發點的具體建模研究和實現。由於涉及到的文獻過多，無法一一列舉，我們僅就一些影響較大的典型研究進行分析。

在意識科學研究領域，一種較早的理論觀點是用量子機制來解釋意識現象，這樣的出發點也波及到有關機器意識建模的研究。利用量子理論來描述意識產生機制的有效性並不是說物質的量子活動可以直接產生意識，而是強調意識產生機制與量子機制具有跨越尺度的相似性。近年來，意識的量子模型發展又有了新的動向。比如，作為量子意識理論的進一步發展，中國科學院電子學研究所的高山(Gao Shan)提出了意識的一種量子理論，研究了量子塌縮與意識之間的關係，假定量子塌縮是一種客觀的動態過程。日本Akita國際大學的Schroeder另闢蹊徑，在構建統一意識模型中不涉及量子力學的量子相干性方面做出了全新的探索，主要目標是說明現象意識能夠依據量子力學的物理解釋，用量子力學的形式化代數性質來描述。此外，俄羅斯Lebedev物理研究所的Michael B.Mensky利用意識的量子概念提出了一種主觀選擇的數學模型，說明意識和超意識的特性如何能夠通過簡單的數學模型給出。當然，更多的是有關意識量子機制描述的可能性爭論，正反兩方面的觀點都有。特別是在2012年的Physics of Life Reviews第9卷第3期，以Baars和Edelman所著論文「Consciousness，biology and quantum hypotheses」為核心(11)，10餘名相關領域的學者分別撰文對是否能夠通過量子機制來描述意識現象展開了多方位的辯論。最近，Susmit Bagchi從分布式計算的角度，較為全面地討論了生物演化與量子意識之間的關係(12)。遺憾的是，迄今為止，學術界對此問題尚未達成一致的結論。

在機器意識研究中，第二種有重大影響的理論觀點就是全局工作空間理論(13)。全局工作空間理論(Global workspace theory)是由美國加利福尼亞大學聖地亞哥分校神經科學研究所的Baars研究員1988年提出的意識解釋理論。在該理論的指導下，由Baars、Franklin和Ramamurthy等人組成的研究團隊開展了長達20多年的機器意識研究工作，最終開發完成了LIDA認知系統(14)。LIDA(Learning Intelligent Distribution Agent)是在該研究團隊等人早期開發的IDA(Intelligent Distribution Agent)基礎上發展起來的，主要依據Baars全局工作空間理論，採用神經網路與符號規則混合計算方法，通過在每個軟體主體建立內部認知模型來實現諸多方面的意識認知能力，如注意、情感與想像等。該系統可以區分有無意識狀態，是否有效運用有意識狀態，並具備一定的內省反思能力等。從機器意識的終極目標來看，該系統缺乏現象意識的特徵，比如意識主觀性、感受性和統一性均不具備。

指導機器意識研究的第三種重要理論觀點是意識的信息整合理論。意識的信息整合理論是美國威斯康星-麥迪遜大學精神病學的Tononi教授1998年提出的。自該理論提出以來，不少研究團隊以信息整合理論為依據，採用神經網路計算方法來進行機器意識的研究工作。其中，典型代表有英國Aleksander教授的研究團隊和美國Haikonen教授的研究團隊所開展的系統性研究工作。英國皇家學院的Aleksander教授領導的研究團隊長期開展機器意識的研究工作，發表相關論文30餘篇。早期的研究主要給出了有關意識的公理系統及其神經表徵建模實現(15)，比較強調採用虛擬計算機器來建模意識。最近幾年，Aleksander研究團隊採取仿腦策略(16)，強調信息整合理論的運用(17)，建立了若干仿腦(brain-inspired)意識實現系統，更好地實現了五個意識公理的最小目標。美國伊利諾伊大學哲學系Haikonen教授的研究團隊則主要採用聯想神經網路來進行機器意識系統的構建工作。自1999年以來，該團隊開展了富有成效的研究工作(18)。Haikonen教授在所提出的認知體系模型的基礎上，構建了一個實驗型認知機器人XCR-1系統(19)。應該說，雖然Haikonen所開展的機器意識研究的出發點是為了揭示意識現象本性，但他的成果卻是目前機器意識研究領域最為典範的工作之一。

在意識科學研究中，也有學者將人類的意識能力看作是一種高階認知能力，提出意識的高階理論。在機器意識研究中，以這樣的高階理論為指導，往往會採用傳統的符號規則方法來建立某種具有自我意識的機器系統。其中，一個比較系統的研究工程就是義大利巴勒莫大學機器人實驗室的Chella教授用10年時間開發的Cicerobot機器人研究項目(20)。該機器人實現了一種自我意識的認知結構機制，該機制主要由三個部分構成：亞概念感知部分、語言處理部分和高階概念部分。通過機器人的高階感知(一階感知是指對外部世界的直接感知，高階是對機器人內部世界的感知)，就形成了具有自我反思能力的機器人。這項研究工作的主要特點是將邏輯形式化方法與概念空間組織相結合，強調對外部事物的一種心理表徵能力，並對外部環境進行內部模擬。在高階認知觀點的自我意識建模研究方面，另一個做出突出貢獻的是美國喬治梅森大學的Samsonovich教授率領的研究團隊。該團隊經過10餘年的研究，開發了一個仿生認知體系GMU-BICA(George Mason University-Biologically Inspired Cognitive Architecture)(21)。在該系統中定義的心理狀態不但包含內容，還包含主觀觀察者，因此該系統擁有「自我」意識的主觀能力。系統實驗是利用所提出的認知結構模型來控制虛擬機器人完成一些簡單的走迷宮活動，機器人可以表現出具有人類意識所需要的行為。相比而言，與Cicerobot機器人強調自我意識是反思能力的概念不同，GMU-BICA系統則將自我意識理解為「自我」的意識。當然，不管是Cicerobot還是GMU-BICA，這樣的高階認知模型往往對心理掃視、主觀體驗與統一意識等意識本質方面的表現兼顧不足。

除了上述介紹的這些有代表性的研究外，對於機器意識研究而言，還有如何判定機器具有意識能力的檢驗問題，這是目前機器意識研究領域十分重要的一個方面。顯然，要判斷開發的機器意識系統是否真正具備預期的意識能力，就需要開展相應的意識特性分析、評判標準建立以及檢測方法實現等方面的研究工作。在這方面，由於目前對意識現象的認識存在許多爭議，對於意識評測特性分析方面也難以有統一的認識(22)。因此，目前的機器意識特性需求分析也比較零散(23)。倒是在評判標準的建立方面，西班牙卡洛斯三世馬德里大學計算機科學系Arrabales教授的研究團隊做出了比較系統的研究。該團隊自2008年開始就在這方面開展意識特性分析(24)，給出了計算人工意識的一種量化測量方法ConsScale(25)以及對感受質的功能性刻畫(26)。之後，該團隊又進一步提出了ConsScale的修訂版，並討論了在機器中產生感受質和現象意識狀態的可能性(27)。最終，該團隊成功構建了CERA-CRANIUM認知體系(採用意識全局工作空間理論建模)來檢驗產生的視覺感受質(28)以及實現的內部言語(29)。所有的這些成果為機器意識能力的初步檢測提供了一種實用的標準。當然，也有將鏡像認知看作是機器擁有自我意識能力的一種檢測標準，該理論的依據是人類和其他一些動物能夠在鏡子中認出自己這一能力被看作是擁有自我意識的明證(30)。因此，Haikonen認為在鏡像中的自我識別，即鏡像測驗，也可以用來確認機器潛在的自我意識能力(31)。於是，在意識能力檢測方法的研究中，許多研究工作都是通過鏡像測試來確定意識能力的(32)。但也有研究認為，鏡像測驗並不能證明意識能力的存在，要證明機器具有意識能力還需要通過更加複雜的測驗。比如，Edelman就提出三種意識檢驗的途徑，即意識的語言報告、神經生理信號以及意識行為表現(33)。

總而言之，機器意識的研究主要圍繞量子湧現機制、全局工作空間、信息整合理論、意識高階理論以及意識能力檢測這五個方面展開的。從研究的策略來看，主要分為演算法構造策略(Algorithm)與仿腦構造策略(Brain-Inspiration)兩種途徑。從具體的實現方法上，主要可以分為三類：一是採用類神經網路的方法；二是採用量子計算方法；三是採用規則計算方法。雖然經過20多年的發展。機器意識的研究取得了眾多的研究成果，但相對於人類意識表現方面，目前機器意識能力的表現還是非常局限的。根據筆者以及土耳其中東技術大學的和Sayan發表的論文，目前機器意識系統主要具備的能力都是功能意識方面的。偶爾涉及自我意識和統一性意識(很難說是否真正實現了)(34)。可見，意識計算模型的研究還有很長的路要走，特別是關於內省反思能力、可報告性能力、鏡像認知能力、情感感受能力以及主觀性現象等(35)，這些方面更加需要進一步的研究和探索。

人類意識能力的唯識學分析

人類意識能力的基礎是神經活動，儘管神經活動本身是意識不到的，也不是所有的神經活動都能產生意識，但神經活動卻能夠產生有意識的心理活動，這便形成了人類的意識能力。

根據現有的相關科學與哲學研究成果，人類意識的運行機制大致是這樣的：物質運動變化創生萬物，生物的生理活動支持著神經活動，神經活動湧現意識(有意識的心理活動)，意識感受生理表現並指導意向性心智活動的實現同，從而反觀認知萬物之理。除了心理活動所涉及的神經系統外，主要的心理能力包括感覺(身體感受)、感知(對外部事物的感知能力，包括視、聽、味、嗅、觸)、認知(記憶、思考、想像等)、覺知(反思、意識、自我等)、情感(情緒感受)、行為(意志、願望、情慾等)、返觀(禪觀、悟解)等。

必須強調的是，迄今為止，對有意識的心理能力最為系統解析的學說體系並非是現在的腦科學研究，而是起源於古印度的唯識學。唯識學所研究的對象就是心識問題，相當於本文界定的有意識的心理活動。如圖1所示，其理論體系主要包括五蘊八識的心法體系(36)。

圖1

五蘊心理描述體系中的心理能力及其關係

第一，前五識歸為色蘊，對應的心法稱為色法，相當於當代心理學中的感知，其意識的作用稱為五俱意識(所謂「俱」，就是伴隨)。如果這種感知是真實外境的感知，則其伴隨性意識稱為同緣意識；如果是有錯覺的感知，則稱不同緣意識；如果這種感知活動產生後像效應，則稱為五後意識(屬於不相應法)。一般而言，色蘊對應的心理活動都是有意向對象的，因此屬於意向心理活動。

第二，受蘊是一種心所法(具體的心理能力)，主要是指身體與情感狀態的感受。注意這裡要區分身識中的身體狀態感受與色蘊是完全不同的心理能力，身識相當於觸覺，是一種感知能力，而身體狀態的感受不是感知能力，而是感受身體疼痛、暖冷等的體驗能力。受蘊的心理活動，雖然具有意識，但不具有意向對象，因此不屬於意向性心理活動。

第三，想蘊是另一種心所法，用現代認知科學的話講，就是狹義的思維能力，如思考、記憶、想像等，屬於認知的高級階段，顯然是屬於意向性心理活動。

第四，行蘊也是一種心所法，主要指一切造作之心，用現代認知科學的話講，如動機、慾望、意願、行為等。唯識學中的「行」，與「業」的概念相互關聯，一般分為三種，即身業(行動)、語業(說話)和意業(意想)，但都強調有意作為的方面，因此行蘊也屬於意向性心理活動。

第五，識蘊是整體統一的心法，更加強調的是後兩識(第七末那識、第八阿賴耶識)的心法，現代西方的認知科學尚無對應的概念。主要強調的是自我意識，特別是返觀能力，即對根本心識的悟解能力。

總之，色蘊是色法(感知能力)，受蘊、想蘊、行蘊都是心所法(具體的心理能力)，它們本身就是具有意識的心理活動(統歸於心法)，其中色法的意識作用是伴隨性的五俱意識，其他三蘊的意識作用與伴隨性的意識則又有不同，稱為獨散意識(受蘊、想蘊、行蘊所涉及的意識，是一種周遍性意識活動)。

當然，如果所有意識作用出現在夢中，唯識學中則另外稱之為夢中意識(做夢時的意識活動，屬於不相應法)。在唯識學的五蘊學說中，識蘊比較複雜，它是唯識理論特別單列的一種根本心法，除了強調自我意識的末那識「我執」外，更是強調達到定中意識的阿賴耶識「解脫」，屬於去意向性心理活動。

總之，從意向性的角度看，我們的心理能力可以分為無意向性的受蘊，意向性的色蘊(前五識)、想蘊、行蘊，元意向性的意識以及去意向性的識蘊。其中，識蘊是一種特定的禪悟能力，對其性質的認識與禪宗的心法觀有關。

機器意識研究面臨的困境

對於目前的人工智慧研究而言，我們涉及到的心智能力，如果按照五蘊分類體系來分析，那麼大致只有色蘊、想蘊與行蘊中的部分能力。如果考慮目前有關機器意識的研究，也僅僅涉及到五俱同緣的伴隨性意識、想蘊與行蘊中的獨散意識、識蘊中的自我意識以及意識活動本身的機制問題，其他意識比如不相應法的夢中意識、五後意識、定中意識、五俱不同緣意識等都沒有涉及。

根據上述有關心識能力的唯識學分析，對於機器而言，真正困難的機器意識實現問題是受蘊性獨散心識(體驗性意識能力)與識蘊性心識兩個方面，一個涉及無意向心理活動的表徵問題，一個涉及去意向性心理活動的表徵問題，這兩方面都是目前計算理論與方法無法解決的問題。反過來講，機器最有可能實現的心智能力部分應當是那些具有意向性的心識能力(色蘊、想蘊與行蘊)，即唯識學心法中的色法與若干心所法。

很明顯，意向性心理活動一定伴隨有意向對象，於是就有可能對此進行計算表證，並完成相關的某種計算任務。因此，反過來說，我們認為意向性心理能力是人工智慧的理論限度(是上界，但並非是上確界)，機器實現的人類意識能力不可能超越意向性心識的範圍。這也就是本文觀點討論的基點，並具體給出如下方面論據的分析。

首先，我們來分析心智機器的成功標準。從我們的立場看，如果要構建具有人類心智能力的機器，成功的標準起碼應該通過圖靈測驗。主要理由是，由於「他心知」問題的存在，行為表現可能是唯一的判斷標準，此時圖靈測驗不失為一種可行的測試途徑，關鍵是「巧問」的設計。原則上，圖靈測驗通過言行交流，這是人類之間默認具有心智能力的唯一途徑。再者，根據摩根準則，在沒有把握的情況下，寧肯選擇比較簡單的解釋。因而，對圖靈測驗的解釋中，也必須注意摩根準則，諸如機器思維或者機器經過思考的行動這類有關心智能力的假設在大多數情況下應該丟棄。

現在我們就來一場圖靈測驗，看看機器到底會遭遇什麼樣的困境。為了看清本質，我們的提問異常簡單，就是進行如下提問(所謂「多大年紀」思想實驗，參見筆者以前的文章「重新發現圖靈測驗的意義」(37))：你多大年紀?此時會發生怎樣複雜的情形呢?當提問者一而再、再而三不斷重複這一問題時，機器很快就會暴露出其致命的缺陷，就是缺乏不可預見性反應能力。那麼，面對這麼簡單的提問，機器為什麼會無所適從呢?其實這跟機器形式系統的局限性有關。眾所周知，圖靈機是個形式系統，而哥德爾不完全性說明足夠複雜的形式系統不能證明某些真命題。這是否說明人的某些知識是計算機器永遠不能得到的?或者反過來說，是否說明不是所有的知識都能形式化呢?這樣就引出了如下第二個論據的討論。

從形式系統角度看，確實存在不可計算(證明)的問題，而且是大量的，但這些問題對於人類同樣也是不可計算(證明)的。比如圖靈停機問題，如果換成了人，結果是一樣的。至於知識，可能首先要分清知識的含義與性質，知識是動詞還是名詞，要不要考慮元知識?如果這樣看待知識，那麼肯定不是所有知識都可以形式化的。因此，我們可以發現，問題不在於形式系統是否有局限性，而在於對於意識現象能不能給出一致性的形式描述。

那麼，我們可以對人類的意識現象給出一致性描述嗎?回答顯然是否定的。因為在人類的意識現象中，存在著意識的自反映心理現象：我們的意識活動是自明性的。從邏輯上講，如果一個系統允許自涉，那麼該系統一定是不一致的，也就是說無法對該系統給出一致性的形式化描述。其實，人類的心理活動本來就是建立在神經集群活動的自組織湧現機制之上的。因此，出現意識的自明性現象是必然的。這也就是美國哲學家普特南給出「缽中之腦」思想實驗所要說明的道理。比如，對於「我們都是缽中之腦」命題，在事先並不知曉這一事實的前提下，使用知道邏輯的反證法，可以明確加以否定。因此，我們人類的意識能力，顯然不可能為機器所操縱。這樣，由於計算機器形式化能力的局限性，靠邏輯機器是不可能擁有人類全部意識能力的，起碼意識的自明性能力不可能為機器所擁有。

進一步，作為第三個論據討論，我們再來看人類的意義指稱能力問題。我們需要明確的問題是：機器能處理符號，但它能真正理解符號所代表的意義嗎?如果人的概念依賴於人類的軀體和動機(涉身性認知)，那機器怎麼可能掌握它們呢?這個問題主要是指機器是否能夠擁有指稱能力。塞爾的「中文之屋」提出了反對意見。其實這個問題的關鍵還是要弄清什麼是「意義」?如果意義是指所謂抽象的「概念」內涵而非表徵形式，那麼就必然存在一條語義鴻溝，因為機器內部能夠處理或變換的只是不同的形式語言而已。但如果意義是指「行為表現」，那麼這個問題就回到了上面圖靈測驗的第一個論據上去了。

人類語言表達意義不在語言形式本身，而在於意識能力。正因為這樣，才會有許多超出常規的意義表達方式。從根本上講，我們也不必一一列舉機器難以擁有的指稱能力，諸如矛盾性言辭、元語言表述以及整體性語境等難以一致性描述的狀況；而只需指出，機器不可能擁有人類的終極指稱能力即可。那麼什麼是終極指稱能力呢?宋代臨濟宗禪師惠洪在《臨濟宗旨》中指出：「心之妙不可以語言傳，而可以語言見。蓋語言者，心之源、道之標幟也。標幟審則心契，故學者每以語言為得道淺深之候。」其中所謂的「心之妙」者，就是終極指稱。由於超越了概念分別，是難以用語言來描述的，這就為形式化描述帶來了根本的困境。

第四個論據的討論涉及到所謂預先設定程序的問題。我們知道，目前的機器只能遵循給定的程序運行(預先設定的程序)，這樣的話，機器又怎麼可能擁有真正的創造性和靈活性?也許人工智慧的目的就是要讓機器的「計算」更加「聰明」，但目前預先設定程序的機器不可能是靈活的，更不用說創造性能力了。顯然，事情越有規則，機器就越能掌控，這就是預先設定程序的界限。比如對於表面複雜結構的分形圖案，由於可以靠簡單規則加以迭代產生，機器就可以靠預先編程規則自如產生。但是對於人類常常出現的出錯性，由於毫無規律可言，機器便不可能預先加以編程，機器也就不可能擁有出錯性了。人是易於犯錯誤的，而機器按照設定的程序運行，永遠不會出錯，這就是預先編程的一個致命弱點，這也是第一個論據討論中機器無法通過圖靈測驗的根本原因。

要知道出錯性表面上似乎是一個負面品質，但其實質上則包含著靈活性和創造性，是一切新事物湧現機制的基礎。如果沒有生物基因的出錯性，自然選擇就沒有了作用的對象，繁複的生物多樣性也就無從談起。同樣，如果沒有了思想模因的出錯性，文化選擇也同樣沒有了作用的對象，博大的思想多樣性同樣無從談起。可見，出錯性是機器難以企及人類心智能力的一個分界線，而這一切都歸結為機器的預先編程的局限性。

同樣的道理，由於預先編程問題，也帶來了機器不可能真正擁有情感能力的新問題，這也構成了機器難以擁有人類心識能力的第五個論據。我們知道，情感從某種意義上講就是常規理性活動過程中的「出錯性」，是非理性的，但基於邏輯的機器是理性的。也許人們會說，非理性的情感在心理表現中是不重要的，甚至是不起作用的。但我們要強調，即使是理性思維，情感和其他非理性因素也在其中扮演重要角色(傾向性指導作用)。如果說理性的認知能力是前進的方向，那麼非理性的情感能力就是前進的動力，人類的心理活動中豈可或缺情感能力?!而對於機器而言，缺少了情感能力，機器怎麼能夠像人類一樣思維?!

機器是邏輯的，難以體現情感本性，目前有關情感的計算只是實現了情感的理性成分。筆者比較贊同這樣的觀點：理智是方向性的舵手，情感是驅動性的馬達，在航行中情感與理智相互依存。因此，如果情感不能計算，那麼也談不上實現人類意識的計算，因為情感難以計算的本質就是意識的感受問題。

機器能擁有意識能力嗎

通過上述對機器實現人類心智能力所面臨的困境的討論，就可以進一步引申出機器是否能夠跟人類一樣擁有意識能力的問題。為了避免陷入不必要的信念之爭，筆者認為學術辯論主要應對事實或可能事實開展分析討論。由於計算機器的概念相對明確，爭論的焦點多半會聚焦到有關人類「意識能力」的界定之上。所以，下面先給出筆者所理解的人類「意識能力」的分析描述，然後再圍繞著我們討論的主題，展開觀點的陳述。

意識包括功能意識、自我意識和現象意識，其中功能意識大體上涉及到意向性的心理能力，除了前面已經討論過的五個論據外，似乎並不存在特別的新困難。但自我意識和現象意識則不同，由於涉及到去意向性和非意向性的表徵問題，這便構成了機器心識的最大困擾。首先，我們要清楚「自我意識」不是關於「自我」的意識，而是一種自身內省反思能力。因此，自我意識是意識的核心功能。其次，我們必須澄清所謂的「體驗意識(qualia)」到底指什麼?是精神的本性，還是虛構的對象?這涉及到哲學基本問題，非常複雜，觀點紛呈。機器能否擁有意識能力的核心問題，其實就在於此。

由於涉及到心靈的一些本質問題，機器意識研究一開始就引起了哲學領域的廣泛關注，有專家專門討論機器意識研究的哲學基礎，也有學者討論機器意識會面臨的困難，包括像意識(consciousness)、感受質(qualia)和自我覺知(self-awareness)這些迴避不了的、顯而易見的困難問題，以及一些與意識相關的認知加工，如感知、想像、動機和內部言語等方面的技術挑戰。除此之外，更多的則是延續早期對人工智慧的哲學反思，對機器意識的可能性提出質疑。涉及到強弱人工智慧之爭、人工通用智能問題、意識的難問題、「中文之屋」悖論的新應用、人工演算法在實現意識能力方面的局限性、蛇神機器人不可能擁有主觀性、現象意識等眾多方面的爭論。

那麼機器能夠擁有這種現象意識狀態嗎?對於現象意識的存在性問題，有截然相左的兩種觀點。一種是神秘論的觀點，認為我們神經生物系統唯一共有的就是主觀體驗，這種現象意識是不可還原為物理機制或邏輯描述的，靠人類心智是無法把握的。另一種是取消論的觀點，認為機器僅僅是一個蛇神(zombie)而已，除了機器還是機器，不可能具有任何主觀體驗的東西。在這兩種極端觀點之間，還存在各種不同偏向的觀點，如還原論、湧現論、唯心論、二元論，等等。其實，依筆者看來，無需做上述複雜的討論，只需從意向性的角度來看，便可以澄清機器意識的可能性問題。筆者觀點是，凡是具有意向性的心理能力，理論上機器均有可能實現，反之則肯定不能實現。因為一旦缺少了意向對象，機器連可表徵的內容都不存在，又如何形式化並進行計算呢!

通過上述分析討論，可以發現，機器意識難以達成的主要困境可以歸納為這樣三個方面。第一個是形式化要求，特別是一致性要求導致的局限性，使得機器智能局限於具有意向性的心識能力，如色蘊、想蘊、行蘊。第二個則是機器缺乏不預見性的反應能力，只能通過預先設定的程序來應對環境。第三個就是無法擁有終極指稱能力，無法實現去意向性的識蘊能力。最後補充一點則是，對於涉及到現象意識的感受性能力(受蘊)，由於沒有意向對象可以作為形式化的載體，因而對其進行的計算完全無從入手。

於是，我們可以很清楚地看到，意向性就是實現機器意識能力的一條不可逾越之界線。用數學的術語說，機器能夠擁有的意識能力的上界就是意向性心識能力。當然這並非是上確界，因為不可預見性的反應能力也屬於意向性能力，但從前面的分析中可以看出，目前基於預先編程的機器仍然無法擁有不可預見的反應能力。或許我們可以期待更為先進的量子計算機器來突破預先編程能力，但意向性心識能力的邊界，依然是無法突破的。

因此，當我們把目前有關機器意識的研究分為面向感知能力實現的、面向具體特定意識能力實現的、面向意識機制實現的、面向自我意識實現的以及面向受蘊能力實現的這五個類別時，就可以同唯識學中意識的五蘊學說相對比，從而更加清楚地認識其中的本質問題所在。我們的結論是，對於機器意識的研究與開發，應當擱置有爭論的主觀體驗方面(身心感受)的實現研究，圍繞意向性心識能力(環境感知、認知推理、語言交流、想像思維、情感發生、行為控制)，採用仿腦與量子計算思想相結合的策略，來開發具有一定意向能力的機器人，並應用到社會服務領域。

機器意識研究未來展望

圍繞著上述分析所得出的主要結論，我們認為，未來機器意識的研究，主要應該開展如下5個方面的研究工作。

首先，構建面向機器實現的意識解釋理論。由於意識問題本身的複雜性，目前存在眾多不同的意識解釋理論，其中只有部分理論用於指導機器意識的研究。為了更好地開展機器意識研究工作，取得更加理想的機器意識表現效果，必須直接面向機器意識實現問題本身，綜合并兼顧已有意識解釋理論，提出一種更加有利於機器意識研究的、有針對性的、全新的意識解釋理論。提出的新理論應該不但能夠清晰地刻畫各種意識特性及其關係，而且應該符合機器意識實現的要求，更好地用以指導機器意識的開展。為此，具體需要開展現有意識解釋理論的梳理研究、機器意識限度與範圍的分析研究、意識特性刻畫標準規範的構建研究等方面的研究工作。

其次，探索機器意識的計算策略與方法。過去的研究表明，要想讓機器擁有意識能力，傳統的人工智慧方法是無能為力的，我們必須尋找全新的計算方法。因此，機器意識的深入展開，需要有不同於傳統人工智慧的計算策略和方法。就目前機器意識研究中所遇到的問題而言，在計算方法方面起碼需要開展亞符號(神經信號)表徵到符號(邏輯規則)表徵之間的相互轉換計算方法、在非量子體系中實現類量子糾纏性的計算方法，以及神經聯結與符號規則相互融合的計算方法等方面的研究。而在計算策略方面則需要開展仿腦與演算法相結合策略的研究。只有確定了行之有效的計算策略和方法，才能真正推動機器意識進一步深入發展。

第三，構建機器意識的綜合認知體系。作為機器意識研究的主要任務，就是要構建具有(部分)意識現象表現的機器認知體系。給出的意識機器認知體系應該滿足一些基本需求(38)，起碼應該包括：實現具有感受質和外部感知對象的感知過程；實現過程內容的內省反思；允許各模塊無縫整合的可報告性以及配備本體感知系統的基本自我概念。因此，這部分的研究內容應該結合機器意識計算策略與方法的探索，參照已有各種機器意識認知體系的優點，有針對性地進行構建工作，以期滿足基本的意識特性需求。

第四，開發實驗性的意識機器人系統。在已有智能機器人開發平台的基礎上，嵌入構建好的機器意識綜合認知體系，形成具體的意識機器人系統，並開展具體的系統實驗分析研究。通過各種意識特性的實驗，檢驗機器意識綜合認知體系的性能是否滿足基本的意識特性需求，最終給出一種實驗性意識機器人系統的範例。

第五，搭建機器意識測試平台。如何評測意識機器人系統所擁有的意識特性以及到達的意識能力程度，也是機器意識研究的一個不可或缺的重要方面。具體研究內容包括：建立機器意識評測標準體系，構建開展評測的環境平台(比如鏡像認知能力的測驗裝置與軟體、機器人行為表現分析設備與軟體，以及意向性人機對話評測系統等)。通過搭建的評測平台，能夠對意識機器人系統的意識特性和能力開展有效的評測工作。

總之，通過上述五個方面的研究，希望能夠在建立全面體現意識特性的評測標準、提出行之有效的計算方法以及構建內省意識的認知體系等三個關鍵科學問題方面有所突破，切實推進機器意識的研究進程。這樣，通過在機器意識研究方面形成一套較為成熟的機器意識理論、方法和技術，方能為推動機器意識學術研究的快速發展做出真正的貢獻。

注釋：

Philip David Zelazo,Morris Moscovitch and Evan Thompson,The Cambridge Handbook of Consciousness,Edited by Cambridge University Press,2007.

Igor Aleksander,The potential impact of machine consciousness in science and engineering,International Journal of Machine Consciousness,vol.1,no.1,pp.1-9,Jun 2009.

Pentti O.A.Haikonen,Machine consciousness:new opportunities for information technology industry,International Journal of Machine Consciousness,vol.1,no.2,pp.181-184,Dec 2009.

Antonio Chella and Riccardo Manzotti,Machine consciousness:A manifesto for robotics,International Journal of Machine Consciousness,vol.1,no.1,pp.33-51,Jun 2009.

Selvi Elif G k and Erdin Sayan,A philosophical assessment of computational models of consciousness,Cognitive Systems Research,vo1.17-18,pp.49-62,Jul 2012.

Gamez D,Progress in machine consciousness,Consciousness and Cognition,vol.17,no.3,p887-910,Sep 2008; Igor Aleksander,Designing Conscious Systems,Cognitive Computation,vol.1,no.1,p22-28,Mar 2009.

Gao S.,A quantum theory of consciousness,Minds and Machines,vol.18,no.1,pp.39-52,Mar 2008.

Schroeder M.J.,Quantum coherence without quantum mechanics in modeling the unity of consciousness,Lecture Notes in Computer Science(including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics),vol.5494,pp.97-112,2009.

Michael B.Mensky,Mathematical Models of Subjective Preferences in Quantum Concept of Consciousness,Neuroquantology,vol.9,no.4,pp.614-620,2011.

你可能還沒有逛過哲學園的微店吧

TAG:哲學園 |

您可能感興趣

※未來人工智慧機器人真能威脅到人類么？
※俄網紅機器人逃跑人工智慧真的有智能嗎？
※智能哲學：如何判斷一台機器是不是人工智慧？
※人工智慧機器人的數量未來可能超越人類
※這個有意識的人工智慧機器人！真的能夠自主選擇
※人工智慧讓機器人擁有無限可能
※未來已來——解讀人工智慧和深度學習對機器視覺的影響
※人工智慧也拯救不了「人工智障」，機器人蠢起來也是沒誰了！
※人工智慧健康機器人，讓醫生變得多餘
※自然語言處理領軍人劉兵：沒有終身學習，機器不可能智能｜新智元專訪
※淺析：人工智慧與機器學習
※人工可以智能，人心可以不能：機器人與藝術的本源——書畫群師友討論輯帖
※機器人與人工智慧
※溯源智能：從觸覺大腦到人工智慧危機—《機器崛起前傳—自我意識與人類智慧的開端》新書推介
※不可思議！人工智慧機器人和人未來竟可以繁衍後代！
※「機器學習」未必就是「人工智慧」……
※異性機器人來了，人工智慧滿足你的一切幻想
※有感情的機器人來了人工智慧新突破
※未來智能：人之異於機器者幾希？