人與機器：機器人學五大定律

「以前做機器人都是機械控制的事情，現在最核心的就是大腦。重點是跟人工智慧的結合，把人的智能移到機器人上，」中國科學院自動化研究所所長徐波一次在接受記者專訪時說，「我們認為人工智慧終極的創新目標就是模擬、學習、借鑒大腦。」

人工智慧技術在近幾年的飛躍讓機器人越來越像人，但打造高模擬機器人，還需計算機專家、心理學家、認知學家、神經科學家和工程師等更多合作。美國亞利桑那州立大學機器人專家赫尼·本·阿莫爾認為，有「靈魂」的機器人問世尚需時日。

雖然我們目前還無法擁有一個《西部世界》中的機器人接待員，但已擁有了愈加擬人的人工智慧助手。隨著語音、圖像識別技術的發展，人工智慧助手不僅可以進一步幫助用戶提升手機和電腦操作效率，解決更複雜問題，還會在理解人的自然語言方面更上一層樓，讓用戶感覺好像擁有一個有喜怒哀樂、可風趣閑聊的「朋友」。微軟小娜、蘋果Siri，以及亞馬遜語音助手Alexa都已初步實現這些功能。

至於《西部世界》中的高模擬機器人何時成真？美國人工智慧研究人員戴維·萊維十分樂觀地預言，2050年之前人類將可與機器人「結婚」，「人工智慧和高模擬技術將創造出完美的機器人伴侶，具有人類希望配偶擁有的一切優秀品質，如耐心、善良、順從等，滿足人類各種需求」。

一、技術的自主體

「與其說是人的信念最終受制於技術的引導，不如說是技術的便利為釋放人的信念提供渠道」，這是陳衛星教授為著名的法國學者雷吉斯·德佈雷的《普通媒體學教程》一書的中譯本所所寫的導讀中的一句話。我認為，對雷吉斯·德布雷觀點的概括是準確的。因為雷吉斯·德布雷在書中寫道：「『手』對『腦』的翻轉無疑是反常和令人不快的，象徵活動是掌握我們自然環境，通過挫敗或者鬆動環境的限制去驅除笨重的、令人恥辱的物質性的手段。同樣意識到將人們從自然和物質束縛中解放出來的活動本身也受到自然控制，這並不容易，也很不舒服。但是過度對立思想與材料，我們就會忘記一個簡單的事實，那就是思想只有通過物質化才能存在，只有通過流露才能持久。人類這『補形的上帝』，只有向『下』走，通過添加替代器官和物質化能力，才能達到神聖的條件，如身體，噪音的發出以及字母文字給聲音以痕迹。」

弗洛伊德在其著作《文明及其不滿》中對技術問題有過自己的思考。他寫道，如果兒女居住在千里之外卻隨時都能聽到他們說話的聲音，如果好友長途跋涉遠赴他鄉卻能在最短的時間之內得知他們已經安然抵達目的地，生活難道不會更加快樂、幸福感難道不會實實在在地提升嗎？醫療的進步大幅降低嬰兒死亡率，切實減少婦女在分娩過程中所面臨的感染風險，也極大延長了人類的平均壽命，這一切難道一點意義都沒有嗎？

弗洛伊德當然清楚，科技進步的作用不可低估。但它仍然提醒我們，科技也有它做不到的地方：如果不是鐵路的出現，地域的阻隔也不可能輕鬆克服，我的孩子也不會離開生他養他的故鄉，我想聽到他的聲音時也就不需要藉助電話；如果不是輪船的出現，大洋也不可能輕鬆橫跨，我的朋友也不會踏上遠洋之旅，我也就不需要藉助電報來解除心中的擔憂。衛生狀況改善之後，嬰兒死亡率是降低了，但這有什麼用呢？正是嬰兒死亡率的降低，使我們在生兒育女方面受到了最嚴格的限制，結果我們生育的子女並不比以前多，夫妻性生活卻面臨各種各樣的難題……最後我們還要問，如果生活仍舊充滿苦難、缺乏快樂，如果生命如此不幸，以至於我們將死亡視為一種解脫，那延長壽命又有什麼意義呢？

弗洛伊德對技術進步的代價進行列舉，言辭間充滿沮喪，所表達的意思有如美國思想家梭羅曾經說過的，我們的發明只改進了方法，卻改變不了結果。

柏拉圖的《裴德羅篇》（Phaedrus）中有個關於塔姆斯（Thamus）的故事，他是上埃及某個大城市的國王。蘇格拉底對他的友人裴德羅講述了這個故事：

某日，塔姆斯國王設宴款待智慧之神提烏斯（Theuth）。提烏斯發明了很多東西，包括數字、算術、幾何、天文和文字。他如數家珍似的，逐一介紹自己的發明，並建議國王在埃及人民之中廣泛宣傳、推廣這些技藝。塔姆斯詳細詢問每樣發明的用途，並根據提烏斯的介紹發表自己的見解，評判提烏斯所宣稱的功用是否站得住腳。在提到文字的時候，提烏斯說：「國王陛下，這項發明將改進埃及人民的智慧和記憶。我所發現的正是這樣一瓶提升記憶和智慧的靈丹妙藥。」

聽了這話，塔姆斯回應道：「提烏斯先生，您真是一位偉大的發明家，但在評價某種技藝對使用者所帶來的好處和壞處時，技藝的發明人往往不能做出最好的評價。就像您剛才提到的文字，您是文字之父，自然會喜歡自己發明的文字，卻可能因此看不到這項發明實際作用的反面。人們學會讀文識字之後，就不會再鍛煉自己的記憶力，因此會變得健忘。人們對文字產生依賴之後，需要外在的標識才能喚醒記憶中的信息，而不再運用自身內在的資源。你所發明的靈丹妙藥，能改善的只是回憶，而不是記憶。至於智慧，人們即使掌握了文字這項技能，也可能只是虛有其表、名不符實，因為他們雖然獲取了大量的信息，卻得不到適當的指引。因此最後可能出現的情況是，雖然看似學識淵博，其實對大多數事情都一無所知。這些人滿腦子都是虛假的智慧，而非真正的智慧，因而將成為社會的負擔。」

波茲曼解釋說：「任何一種工具都存在觀念上的偏見，都會傾向於將世界構建成某種特定形態，看重某種特定的事物，強化某種特定的感官、技能或態度」。他認為，加拿大哲學家馬歇爾·麥克盧漢（Marshall McLuhan）的名言「媒體即信息」說的就是這個意思。馬克思也曾說過，「技術揭示了人類應對自然的方式」並創造「交際的條件」，人們藉以相互交流。維特根斯坦（Wittgenstein）談及人類最基礎的技術時也曾經說過，語言不僅是思想的傳播媒介，同時也是驅動力。這就是塔姆斯國王希望大發明家提烏斯認識到的地方。

無論是生命科學技術已經可以做到的「克隆人」，還是綜合了多種科學技術而可能出現的仿生智能人。人一直在按照自己的式樣使物「人化」。科學家們一方面通過這一方式來展現人的主觀能動性和人的意志，彰顯了人在世界中的主體地位。但隨著物一步步逼近人自身的時候，人在驚異於自己的創造能力的同時，又不免產生一絲憂慮——他們擔心物越來越智能時，是否終有一天會超越人本身，成為未來世界是主宰者。

劉易斯·芒福德的技術理論強調一種觀念，即人們所使用的工具都是人體及其功能的延伸，他堅持認為再完美的技術遠不如生物體本身，指出即使是最好的機器也只不過是對生命有機體的拙劣模仿。芒福德承認，現代技術積極地適應新環境、為生命體服務，機器複製了眼睛和耳朵的自然特性，因此變得更加人性化。但無論如何，人的感受與自主在這一過程中依然至關重要。

凱文 凱利（Kevin Kelly，常被稱為「KK」）認為，技術元素乃是信息與人類心智兩種增長率交叉作用的結果。他注意到任何能夠產生建設性思想的自由意志，必定能夠產生破壞性的思想。與之相似，技術也是如此，他甚至為此總結出技術期望的第一定律：一項新技術的前景越好，其潛在的危害也就越大。他還提出了解決之道：把道德觀念設計到技術系統里以管理技術道德取向。在「技術的美妙天平」一文中，他則明確寫下了「技術有一個道德維度」這個判斷，他指出：「強大的技術需要責任心，我們應該有目的地培養我們的機器人孩子做個好公民。為他們灌輸價值觀。」

他當然也看到了技術負面作用——當今世界的大多數問題都是由之前的技術造成的，而明天世界的大多數問題也將由今天我們仍在發明創造中的技術引起。但他仍然興高采烈地寫道，每一種新發明同樣也為我們創造了不止一種新的道德選擇……從長期來看，技術給了我們更多的差異、多樣性、選項、選擇、機會、可能性，還有自由。這便是進步的定義。KK以石錘舉例說明。石錘可以用來殺人也可以用來造物，但是在它成為工具之前，這種選擇的可能性是不存在的。技術是一種手段，它不斷賦予並放大了我們作惡或造福的能力。但是我們每次都有了一個新選擇是好的，它可以讓天平略微向造福這一邊傾斜一點。而正是基於這一樂觀的判斷，他認為「技術是人類的孩子」。

在1994年的作品《失控》中，KK就已經表達了這種樂觀與自信。他在那本書里討論的是一個「人造與天生聯姻」的世界，一方面現有技術的局限性迫使生命與機械聯姻，為我們提供有益的幫助，另一方面又由於我們自己創造的這個世界變得過於複雜，我們不得不求助於自然世界以了解管理它的方法。這也就意味著，要想保證一切正常運轉，我們最終製造出來的環境越機械化，可能越需要生物化。我們的未來是技術性的，但這並不意味著未來的世界一定會是灰色冰冷的鋼鐵世界。相反，我們的技術所引導的未來，朝向的正是一種新生物文明。在KK看來，技術不會取代人類。自然界中的新物種極少取代老物種，它們更願意以其它物種的成就為基礎，與現有生物體一起發掘一個小的生態環境共同生長。技術會彌補人類的不足，它在人類需要的它的地方出現。我們希望和遠方的人溝通，於是人們開始訓練鴿子，然後發明電報和電話。我們希望更快更安全地前往外地，人們開始訓練馬，製造馬車，然後發明蒸汽機和內燃機。

二、一切盡在掌控之中？

《紐約時報》資深科技記者、《與機器人共舞》(Machines of loving Grace)作者約翰·馬爾科夫（John Markoff）曾說過：「我們設計了這些機器，我們有能力將它們設計為我們的主人、夥伴或奴隸。當我們設計這些機器時，如果我們有許多不是人類的奴隸卻要將它們當作人類對待，它們能對人類做什麼？我們正創造這樣的世界：我們的大多數互動將通過擬人代理進行。」

「傳統」看法認為，如果我們能夠做到謹慎地監控、管制和引導機器人技術的發展，那麼機器人將是可控制的。然而，近幾十年來，在不少科幻小說或電影中，都出現了人工智慧機器拒絕服從人的命令，甚至殺死或控制人的場景。因為不少人在思考，一旦有生命的機器人真正出現，超越人類是很快的事情，機器人的自我複製，自我進化和進步肯定是快於人類的，到時候機器人肯定不會願意臣服於人類而是要掙脫人類的束縛，不需要太久的時間，機器人就能超越人類，甚至滅絕人類，就像人類統治地球以後逐步滅絕其他生物一樣。設若科幻小說或電影場景變成現實的話，人類與機器人的關係將會怎樣？

黑格爾在1807年論文《精神現象學》中，提出過「主從辯證法」。黑格爾認為，保留奴隸最終將使主人失去人性。儘管他當時還不知道我們這樣的世界，但是卻提及人類與機器人之間的關係。他寫道：「主人是自為存在著的意識，但已不復僅是自為存在的概念，而是自為存在著的意識，這個意識是通過另一個意識而自己與自己相結合，亦即通過這樣一個意識，其本質即在於隸屬於一個獨立的存在，或者說，它的本質即屬於一般的物。主人與這兩個環節都有關聯，一方面與一個物相關係，這物是慾望的對象，另一方面又與意識相關聯，而這個意識的本質卻是物或物性。」

在學術界，關於人工智慧可能性的探討，或者說機器（非生物系統）是否能夠跟人類媲美乃至超越人類的智慧，一直有著激烈的爭論。比如：我們有理由相信無機生命（機器）會發展出與有機體類似的生存和競爭意志嗎？有朝一日機器會不會自己設計、製造並操作不遵循人類準則的新型機器？而屆時我們很可能沒有任何辦法來避免這一可能性的發生。人與機器的關係，是否也適合於黑格爾所說的主從關係？

2014年，包括斯蒂芬·霍金、比爾·蓋茨、埃隆·馬斯克在內的一些著名人士都提出：如果智能機器缺乏監管，人類將迎來一個黑暗的未來；人工智慧可能是我們面臨的最大滅絕風險。為什麼會有這樣的擔憂？

因為，他們擔心一旦機器擁有了像人類一樣的設計和架構技能，僅僅更快的速度和更大的容量就可以使它們對自己的設計（源碼）進行操控。機器智能在反饋循環中不斷提高自己的能力，出現「智能爆發」，並將遠遠超出無機器輔助的人類智能。到了那個時候，人類對情感的理解能力，以及作出適當反應的能力（所謂的情商）——這些人類智慧的重要表現，也將被未來的機器智能理解並掌握；人類的世界終將被人工智慧的世界代替，人類將會面臨一場控制危機。

美國的經濟學家布萊恩·阿瑟寫道：「現在的主流技術是一個系統或者一個功能網路，一種『物-執行-物（things-executing-things）的新陳代謝，它能感知環境並通過調整自身來作出適當反應」。他進而分析說，「當現代技術逐漸進入到一個網路中，能夠感知、配置、恰當地執行，它就表現出了某種程度的認知能力。這從個意義上說，我們正在向智能系統前進。基因技術和納米技術的到將加速這一進程。事實上，未來這樣的系統不僅能夠自構成、自優化、具有認知能力，還能自集成、自修復以及自保護」。

機器人到底算什麼？卡耐基-梅隆大學計算機學院院長安德魯·摩爾（Andrew Moore）說：「最重要的區別在於技術是否有自主控制功能，無需他人指導可照顧好自己。第二個問題是，是否有腿、眼睛或身體真的重要嗎？」換句話說，重要的是誰擁有控制權，以及人類如何理解自主權，人們的日常任務越來越依賴機器。馬爾科夫說：「在20到35歲之間的人中，他們基本上被各種演算法包圍，需要演算法告訴他們一切，從韓國烤肉店在哪到與誰約會等。這是轉移控制形式的巧妙方式。全社會都有必要對自主化進行討論。」

在這樣的對話中，人類必須嘗試回答這樣的問題：人類願意放棄多少控制權，這樣做的目的何在？在機器人崛起的趨勢不可逆轉之前，這些問題可能沒有答案。

三、機器人學五大定律

面對這樣的憂患意識，科幻小說家阿西莫夫試圖規範人和機器的倫理法則，他與他的出版人坎貝爾提出了著名的「機器人學三大定律」：

1.機器人不得傷害人類，或袖手旁觀讓人類受到傷害；

2. 在不違反第一定律的情況下，機器人必須服從人類給予的任何命令；

3. 在不違反第一及第二定律的情況下，機器人必須儘力保護自己。

在後來進一步的思考後，阿西莫夫擴充了一條定律，以保護個體的人類，以便最終保護整體的人類。於是對原有的三定律進行修訂，增加了第零定律，同時修改了其他定律：

第零定律：機器人不得傷害人類，或目睹人類將遭受危險而袖手不管；

第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管，除非這違反了機器人學第零定律；

第二定律：機器人必須服從人給予它的命令，當該命令與第零定律或者第一定律衝突時例外；

第三定律：機器人在不違反第零、第一、第二定律的情況下要儘可能保護自己的生存。

這一話題引起了廣泛的關注，後繼的研究者在阿西莫夫的基礎上，為機器人學定律增加了一條繁殖定律：機器人不得參與機器人的設計和製造，除非新的機器人的行動服從機器人學定律。

所有這些關於機器人的定律，都是為了規範機器和人類的關係的。但這些定律更多地是站在人的立場上，確保人的尊嚴不受到任何挑戰，人的主體性得以保證。但是，如果未來機器人也是「人」，他們就必須如此聽命於人的指令，任由人的掌控左右么？機器人，是否也應該享有「人權」？

另以為這只是天方夜譚不邊邊際的想法，麻省理工（MIT）媒體實驗室的研究者凱特·達令（Kate Darling）就是一位機器人權利鼓吹者。她認為，反對動物虐待既保護了有感情、能思考的動物的自身尊嚴，也照顧了我們人類自己的感受。未來就算社交機器人不能感受到真正的痛苦，但是人類卻會在機器人受折磨時覺得難受；更何況，隨著技術的進步，機器人和動物之間可能會愈發難以區分，尤其是對小孩子而言。這樣的場景下，哪怕只是為了更好地保護生命，我們是否也應該賦予一部分機器人一些權利呢？換言之，當人工智慧超過人類的的智能，我們為什麼不能構築一個更高水平的社會形態？

總之，相信人是萬物的主宰者，或者相反，去相信技術的自主性，都未必科學。我更相信人與技術、人與物是一種共同進化的關係。人發明和創造技術，技術又反過來形構人的思想和生活世界，進而影響與人的進化與發展。