人類該如何判定機器人是否能夠產生意識活動？

【網易人工智慧訊 5月28日消息】想像一下，在不久的將來，每一支新一代智能手機都配備一位雲端個人數字助理（PDA）。用戶可將PDA聲線設定為性感的女聲，可以開放許可權，使其能夠訪問管理用戶電子信箱、社交媒體賬戶、日曆、相冊、聯繫人以及未來數字化生活中各種零碎的數據信息。

由於強大的數據處理功能，包括你我在內的未來所有的智能手機用戶將在日常生活中第一時間想到這位「性感」的虛擬助手，因此她很快就會比母親、前妻、朋友甚至心理醫生更加了解她所服務的用戶。她會操著一口流利地道的英語與你討論確認日常生活的種種細節；她將成為你幽默笑話的第一個聽眾。她的聲音將伴你入眠；她的聲音將溫柔地喚醒沉睡的你。找不到她時你將無比恐慌。慢慢的，她入侵你的生活，你的幸福缺她不可。所以你順其自然地步入愛河。當然你偶爾也會思考她是否真的能明白你的感受、回應你的深情甚至你懷疑她是否有感知任何事物情感的能力。但每當她溫暖而沙啞的聲音緩緩響起，你內心的自戀得到了完美的滿足，你陶醉於自我魅力之中，於是一切問題都不在困擾。可惜當你意識到你並非是獨一無二的——她與你親密的互動交談每天都會在其他成千上萬的用戶身上重演，失落感將如一盆冷水當頭而下，熾烈的迷戀最終會瞬間冷卻下來。

以上情節其實出自一部2013年的電影《她》，電影中，平凡無奇的普通人的西奧多·托姆布雷愛上了他的數字助手薩曼莎。僅僅幾十年後，科幻電影中的情節將會成為我們身邊最普通的故事。智能機器深度學習、語音識別和相關技術所取得的巨大的進步使得個人數字助理（PDA）軟體蓬勃發展，亞馬遜的Alexa、蘋果的Siri、谷歌的Now以及微軟的Cortana應運而生。PDA不斷更新換代，越來越與真實人類靠近，讓人難以區分，唯一的差別是PDA強大的記憶、無可挑剔的沉著與耐心——這是任何人類都無法完成的事。

原本許多僅為人類特有的品質卻被完美的呈現在這類擬像之上，這勢必將引發深遠的科學、心理、哲學和倫理方面的質疑與討論。這些擬像最終將顛覆我們對自己的定位，顛覆人類信奉已久的例外主義，以及我們掌控全局的地位。今天在此，我們將具體研究這些即將有智能領域科技發展所帶來的社會問題。我們的核心觀點是只要這些機器按照現有計算機架構行事，它們的行為就會類似人類，而人類也會被這樣的現象所迷惑，以與人類相處的模式同樣對待這些擬像，但擬像本身對此毫無所查。但如果計算機架構更加類似人類大腦，那麼它們產生真正自我意識的日子也就不遠了。

計算機似乎已經成為整個時代的信仰——只要輸入匹配的代碼，它能夠完成所有我們希望它完成的事情。

聚寶盆

事實上，矽谷智能資金認為計算機能夠很快復刻人類所能完成的任何事情，並取代人類完成所有的一切，最後甚至完成更多人類無法完成的事情。但是，當電腦進化到一定程度，它們是否會產生自我意識？一方面，對計算機持樂觀態度的計算機主義者給出了自己的答案。（他們的聲音也是當代哲學、心理學和神經科學的主流聲音）答案指出，所有的精神狀態，比如清醒時面對牙痛及其難耐，比如對另一半熾烈的愛戀——本質其實都是計算性的狀態。因為這些狀態與相關的感官體驗、相應的行為反應及二者之間的計算性狀態都有密切的功能性關係。

也就是說，大腦是精密的輸入輸出設備，用來計算和處理我們在這個世界中所接收的各種信號。大腦就是電腦，我們的大腦就與軟體毫無二致。計算主義者認為這些規則不僅可以應用於人類大腦及大腦控制的行為，也可應用於特定狀態下與大腦運行方式類似的操作過程。畢竟，這就所謂的意識：所有主觀感覺、所有我們看到的、聽到的、感覺的、記住的、思考的經歷的總和。

在計算主義的定義中，若假設人類牙痛的痛苦經歷是人類大腦的一種狀態，則在這種狀態下，某些神經細胞對被感染的牙齒做出反應，導致人類作出呻吟、托住下巴、拒絕使用病痛的一邊進食、無法完成其它事宜等相應反應，諸如此類。若所有這些狀態都是在計算機軟體中模擬出來的，那麼整個系統會與人類作出同樣的思考、最後作出同樣的行為。也就是說，意識是可以計算的。這是學術、媒體和工業領域中的頂尖計算機專家所奉行核心原則之一，無論他們選擇明確表示或含蓄遮掩。按照這種觀點的定義，所有意識除了計算性狀態實例化沒有別的解釋了。其他因素都無足輕重，包括計算性意識是如何控制計算機硬體或者頭骨中的神經實施物理行動的。按照計算主義的觀點，未來的薩曼莎甚至像鬼才暗黑系科幻電影《機械姬》中的艾娃一樣擬像將會像人類一樣擁有經歷和知覺。她會產生視覺和聽覺，會感知快樂和痛苦，學會愛，也學會恨。但也許這一切也不會發生。

計算主義的前提是：兩個系統功能相同則意識相同。有了這個前提後，計算機主義就可以進行下一步的推論：由於我們人類體驗過這個世界之後才產生了意識，與我們功能相同的電腦也必須要像我們一樣體驗世界後才會產生意識。這種假設是否有理？想要回答這個問題，我們需要一個有原則性定量理論來解釋意識的定義，並規定物理系統能獲得意識的條件。然後這種確定的理論尚未出現。

雖然我們這一群專攻神經系統的科學家一直在「意識與神經的關聯」這條研究之路上艱難行進，也對人類、猴子以及老鼠等相關物種進行了越來越精細的實驗。並且，通過這些實驗，我們已經確定了新的大腦皮質區域——頭蓋骨下的大腦表層，這些區域在有意識地用感官獲取信息的過程中至關重要。然而，作為一名直接參与這個實證研究項目的可研人員，我想說即使我們目前的探索頗有成就，已經能夠成功識別人類及動物近親特定大腦結構以及二者身上意識活動所需的特定神經活動模式，但這些成果也不足以確定神經系統結構有較大區別的生物，如章魚或蜜蜂是否存在意識以及存在什麼程度的意識活動。而神經科學的任何發現都不足以證明機器是否具有意識。

然而現在有一種基本的意識理論能夠為我們在研究包括機器在內的不同物種的意識問題上提供新的思路。這個理論並不是從行為或大腦出發的。相反，它是基於意識本身——從我們自己唯一能夠完全確定的東西，即我們的經歷出發。這是現代哲學、科學和分析幾何學之父勒內·笛卡兒（RenéDescartes）理論的基石，他在西方思想界最著名的演繹中提到了這一觀點：我思故我在。

這一理論在過去二十年中發展壯大，被稱為集成信息理論（IIT）。該理論旨在定義什麼是意識以及物理系統擁有意識的條件，以及衡量標準。從理論上來說，意識的數量和質量都是基於相關物質基礎。

完整的IIT理論相當複雜，三言兩語難以說清，在此我們只能大致闡述。該理論確定了每一種可能被定義為意識體驗的五個基本屬性：

（1）對意識主體（而不是外部觀察者）來說，意識的存在是本質的、固有的;

（2）每一次意識活動都是結構化的（它是由意識活動的各結構及相互關係組成）;

（3）意識活動是整體性的的（不能被細分為獨立的部分）;

（4）意識活動是明確的（意識活動有明確的界限，相應的意識活動包含了與其對應的內容，這種包含性是排外的）；

（5）意識活動是具體的（每一次意識活動都有特定的具體方式，可將其與其它數以億萬記的意識活動區分開）。

隨後，IIT將這些屬性當做基本條件，即任何物質基礎必須滿足上述屬性才能夠產生意識活動。將這些條件用計算思維轉化，可評估任何物理系統是否產生意識及意識的數量、質量，包括人類大腦、章魚、蜜蜂以及計算機電路板。最重要的是，按照IIT理論，意識的發展水平並不局限於實體系統的整體水平。恰恰相反，這取決於意識組成以及發展的過程。只有特定類型的物理系統才擁有能夠產生意識的內部架構——這些物理系統的內在因果效應力量最強大，這種力量能夠讓其自行決定其狀態。

基於此，這些物理系統必須由許多部分組成，每個部分在整個系統中都處於特定因果關係之中（IIT理論中的的「信息」部分），但是整個系統不能再簡化為這些部分（IIT理論中的「整合」部分），這樣的整體性使得整個系統的力量遠遠大於各部分功能之和。IIT理論現代定義中的「信息」一詞與該詞現代內延不同（比如不與「某人將一條信息發送給了另一個人」一句中信息所代表的含義相同）。

意識並非是將信息從大腦的某個部位發送到另一個部位。實際上，IIT理論中使用的是「信息」一詞的源義，意思是「將某種形式傳遞給...」。任何一種機制的力量，比如大腦或電腦，都能決定自身下一秒的狀態，這種因果力量能夠產生一種特定形式或說一種高維度結構，這就是所謂的經驗。

IIT可以使用該原則解釋從神經解剖學來看意識的許多難解特徵——為什麼儘管大小腦擁有比之超過四倍之多的神經元數量，但它們在意識活動中並不發揮作用，反而都受新大腦皮質的支配（目前大腦皮質已知範圍更廣、功能更強）:在沒有被頻繁激活的情況下，它們由神經元前饋鏈表構成的內部結構與新大腦皮質的非均質、豐富、密集的大腦皮層鏈接差別極大，而後者能夠支撐大範圍的活躍神經元的快速聚集分裂過程。這也解釋了為什麼在睡眠階段，儘管新皮層神經元仍處於活躍狀態，但意識卻會逐漸消失——部分新皮層無法有效地相互影響。IIT理論做出了許多違背直覺的推測，但最終都卻通過了實證檢驗。

有一種推測是在一快幾乎沒有活躍神經元的沉默新皮層區域卻能夠產生意識。另外，IIT已經授權托諾尼（Tononi）和米蘭大學教授馬塞洛·馬西米尼（Marcello Massimini）研發一種用於評估人類意識的設備，該設備是由一種用於刺激大腦的電磁線圈和一個用於感知其反應的高密度腦電圖電極構成的原始的意識測量儀。裝置被用於檢測病人是否有腦損傷，還可應用於與因被麻醉而無法開口的病人進行交流。同時，作為一種正式的數學理論，IIT可應用於所有物理系統，無論是由自然選擇進化而來的人類大腦，還是由工程師設計的電子電路。

正在進行的研究表明，新大腦皮層某些部位的物理結構——尤其是在背部神經元連接的方式是最理想的，能最大限度地發揮大腦內在因果效應，它能夠將近期狀態的影響以及決定未來狀態的能力最大化，因此這些區域能夠產生意識。相比之下，典型的計算機物理架構很不充分，其中央處理器的門級和瓶頸之間的而連接性非常低，甚至無法形成很小的一組必要集成。也就是說，電腦會根據用戶的指令來執行計算及其它功能，但就其內部微弱的連接性來看，電腦的內在因果能力無法與大腦相媲美。就算我們用比晶體管和電阻更粗糙的標準來衡量電腦，這一事實也無法改變。

矛盾之處在於：能夠改變本體的內在物理力量是無法計算或模擬的。它必須建立在系統的物質基礎上。即使對人腦在生理及物理上都進行精確的計算機模擬，復刻其860億神經元和數以萬億計的突觸矩陣結構，模擬系統都不會產生意識。即使電腦配備語音合成器，能夠語音播報它所謂的體驗，也不過是巧妙地按照執行程序設計行事，是設計出來的功能。

意識最核心的部分是缺失的。IIT的結論使得那些希望藉助數字大腦備份實現永生的人大失所望。他們原本設想在未來的幾十年里，人類能夠精準重建人類大腦的接線圖（即連接體），並通過適當數字硬體模擬真實大腦。這個過程可能具有極大的危害性，因為只有將大腦切成超薄的片狀體才能夠進入大腦的超微結構。但在死於某種致命疾病之前，人類能夠將大腦所存儲的高解析度數據上傳至雲端。只要雲端持續運行，模擬大腦就會一直延續，與其它同類進行互動。

不僅是學術之爭

在IIT推導出結論之前，永生的信仰就已經如同對前先知和宗教的信仰一般虛幻。雖然模擬人可以如設想般說話、行動，但它們完全是一群行屍走肉，沒有任何感知能力。諷刺的是，在現實世界中，對於模擬人的親朋好友來說，模擬人已轉變成一種崇高存在形式，並吸引現實生活中其他人前往永生，而實際上迎接他們的只是永遠的虛無。

IIT結論是否正確不僅僅是學術問題。如果沒有發生諸如世界末日之類的全球性災難，我們的社會將在幾十年內創造出類似人類智力和行為的機器，能夠理解和使用多種不同語言、具有超強的記憶力、能夠預測未來、創作小說和其它文章書目、創作音樂、導演電影、制定目標並實施行動、駕駛、飛行......那麼，戰爭也將不可避免。

若果真如此，那麼藉助大數據、深度學習以及高速計算的能力，衝破人類的防線如此輕鬆。若真正的人工智慧問世，人類的未來將有深刻的變化，甚至關乎生死存亡。

無論是否相信人工智慧時代的到來標誌著人類文明的隕落，我們這裡需要討論的問題仍然是：他們有意識活動嗎？他們清楚自己是什麼東西嗎？或者說如今的智能垃圾處理裝置、洗衣機或汽車在未來升級換代之後有沒有認識到自己是非常聰明的機器，能否感知世界？這個問題的答案事關我們與未來機器的關係。

假如你一鎚子砸爛了昂貴的、閃閃發亮的特斯拉，你的朋友可能會認為你瘋了;但毫無疑問，你有這樣的自由。但要是你砸的是你的狗，等候你的可能就是警察的手銬了。這是因為汽車只是一種達到目的的工具——可以讓方便你的出行——而狗卻是目的本身，由於它與我們共享意識的天賦，它擁有一些基本權利。

我們不能依靠直覺尋找正確答案。直覺也許會讓Theodore Twombly暫時愛上薩曼莎，考慮到現實形勢的嚴峻，我們需要指引。我們需要基本的理論，能夠界定在什麼樣的條件下，物理系統能夠具備感知能力及意識活動。

據IIT推測，電腦運行軟體的過程與我們頭腦中看到聽到的影響完全不同。因為未來的智能數字助手和栩栩如生的機器人沒有感知能力。而正如IIT堅信的那樣，它們的軟體可以安全地複製、編輯、出售、盜版或刪除。它們能夠隨意關閉、修改、摧毀、能被隨意替換。

當然，若傳統架構改變，一切條件也做不得數了。比如特殊用途的機器按照與大腦相同的設計原理建造，包含所謂的「神經形態硬體」。（見Neuromorphic Chips Are Destined for Deep Learning—or Obscurity《神經形態晶元必須經過深度學習，不然毫無用處》中有關討論）。這一結構原則上可以有相當程度的意識體驗。關鍵在於這類機器邏輯計算和記憶組件是緊密聯繫在一起的，兩道大門的輸入輸出埠高度重疊。（功能完全特定的分隔組件並不會對內在的因果關係造成影響。）這類系統的「大腦」實際上是聯通的，因此是它們的（生物）物理特性使其與意識主體有所區別，輸入-輸出過程反而並無區別。

這樣一種神經形態的機器，如果覺醒程度達到相當的高度，就能擁有內在權利，特別是追求自我生活及幸福的權利。在這種情況下，人類社會必須學會分享這個我們有無數創造發明的世界。

作者介紹：

克里斯·汀科赫（Christof Koch），西雅圖艾倫腦科學研究所（Allen Institute for Brain Science, in Seattle）主席兼首席科學官 ；

傑里奧·托諾（Giulio Tononi），Sleep Medicine期刊David P. White主席兼威斯康星大學意識科學的特聘教授。

英文來源：spectrum 編譯：網易見外智能編譯平台 審校：Maxi

我們是網易新聞旗下頻道，更多內容請關注網易新聞客戶端！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！