復旦哲學教授郁喆雋：總擔心人工智慧，人類到底懼怕什麼

郁喆雋|復旦大學副教授、復旦大學哲學學院/德國萊比錫大學哲學博士

活動：2016年6月30日復旦哲學微課堂，筆記俠作為合作方，經活動方審閱授權發布筆記。

筆記：筆記俠 籃子 深度好文：3736字 | 4分鐘閱讀

導讀：人工智慧與人工哲學又有什麼糾葛？為什麼暫時不用擔心人工智慧這方面的影響，而更多的擔心來源於VR？人工智慧後我們是否需要反思我們的生活方式？

完整筆記

我們會不會愛上機器人？

《her》是一部用科幻包裹的言情電影，講述了一個宅男愛上自己電腦操作系統的故事。操作系統能配合男主角的情緒作出不同反應，男主角對操作系統逐漸依賴，與它分享情緒與私密的話題。這部影片就涉及了人工智慧的自然語言處理部分，已經可以在生活中見到，如iPhone中的siri、win10的cortana。

人工智慧涵蓋很多方面，如邏輯推理能力、學習能力，如谷歌自動駕駛對環境的觀察與處理能力。電腦的能力很強大，但在自然語言處理部分仍有很多缺憾。小小的對話，需經過語音識別、人聲轉化、邏輯運算等環節，對於程序而且仍太過複雜。

《超體》劇照

近幾年來人工智慧的發展，引發了人對人工智慧爆發的諸多擔憂，此主題在電影中也有諸多表現。如好萊塢大片《我，機器人》、《超體》、《終結者》、英劇《真實的人類》等。

在生物演化中，出現了智能生命體——人。人的大腦與計算機的根本區別在於電腦有中央處理器cpu，大腦並無。人的大腦本質上是蛋白質，卻為何具有了產生智能生命的能力？本質上是人自我認知的問題。

人工智慧與哲學的糾葛

伴隨著人工智慧的發展，哲學也發展出了相關的分支。先有人工智慧技術，再有人工智慧哲學。但在哲學看來，太陽底下並無新鮮事，只是換一種形式呈現。

17世紀哲學家笛卡爾就在他的書中談論了智能與智力的問題，提出的背景是在整體機械化認識時，人的身體可以做出各種各樣的自動機，遠超過其它動物，那麼人即神造的機器。他堅持物理與精神的二元論，人製造出的布谷鳥的鐘，所有的動作蘊涵在機械內部。

笛卡爾將人造的自動機與人本身相比，大膽設想人能製造出某種機器吐出幾個字回答人，卻不能明白人的意思。他認為人不僅有肉身、情緒，還有靈魂，而機器無法做到與人類似的反應，根本在於機器缺少靈魂，即哲學中的身心靈二元論。

在笛卡爾看來，人能精準使用語言，而機器只能做預先規定的行動。這樣的問題在哲學史上陸陸續續提到，直到20世紀艾耶爾在他的書中提到「人與機器的區別在於可知覺的行為的不同類型之間的區別」。他認為判斷機器是否有意識，需通過經驗的檢驗。若說無意識，則必須做出機械預先規定好的行動。

圖靈測試

到二戰之後，圖靈的論文《計算機器與智能》中提及「智能」一詞，他的個人經歷被拍成了《模仿遊戲》。有人評價圖靈用一人之力，將二戰的結束提前了1～2年。

圖靈提出了圖靈測試，將艾耶爾的測試論具體化，圖靈測試的本質就是模仿遊戲。模仿遊戲的意思為機器與人類對話，未被發現機器身份，則認為該機器具有智能。在兩個房間內，分別放著一台機器與一個人，你在未知的情況下對他們提問，而辨別不了他們中機器的身份，則認為機器具有智能，通過了圖靈測試。

圖靈測試在20世紀50年代提出。在2014年6月，圖靈測試已被打破。也有很多人質疑他的成功，因為測試機器人的身份被設定為烏克蘭的13歲男孩，他外國人的身份與年齡會讓評委產生錯覺。沒想到圖靈測試被打破的速度這麼快，就在我們身邊發生。即便聊天程序通過圖靈測試，在人看來還是挺笨的。從哲學角度，也有不少科學家對圖靈測試本身存在質疑。

1980年，約翰·塞爾在他的論文《心靈、大腦與程序》中提出一個思想實驗，名為「中文屋」。假設塞爾不懂中文，被關在「中文屋」，外面的人通過中文來提問，塞爾要通過屋內的工具書來回答。外面人打了四個字在屏幕上「恭喜發財」，塞爾通過查字典明白意思，再從工具書上找出回答，通過輸出端傳達至外面。

塞爾設計實驗的原因是反對強人工智慧，他認為即使程序具有模仿人類行為的功能，也不具備心靈。塞爾認為只有一種機器是可以思維的，即人的大腦。

塞爾將一些人對於他實驗的回應收集起來，有人認為實驗中不懂中文的人與中文屋的系統組成了系統，系統能讀懂中文，其中的人並不會。每個部分都不理解中文，但結合起來就能理解中文。

另一種回應叫「他心」，你與一個人溝通時，你怎麼能明白那個人是能讀懂中文的呢？每個人只能感受到自己的心靈，我們認為他人也擁有心靈不過是個人的類推。如「子非魚安知魚之樂」，此種說法也很容易導致「唯我論」。

人工智慧哲學能幫我們理清一些問題。關於倫理，在《AI》中，當一個機器的行為模式與人高度接近，我們清楚知道它的內部與我們不一樣，但卻擁有與人相同的智能情感，是否能認為它與我們有同樣的權利？假設在法律上能賦予機器與人工一樣的權利，當我們在關閉人工智慧時，是否會出現倫理問題？

我們也擔心人工智慧會傷害人類，阿西莫夫在小說中提出機器人學三定律：

第一法則:機器人不得傷害人類，或坐視人類受到傷害；

第二法則:除非違背第一法則，機器人必須服從人類的命令；

第三法則:在不違背第一及第二法則下，機器人必須保護自己。

《機械警探》中讓機器人去打擊犯罪，明顯在違反第一法則。

阿西莫夫又添加了第四定律「機器人必須保護人類的整體利益不受傷害」，機器人又怎樣理解人類的整體利益？其中還是有很多問題。怎樣從語義方面回復到程序方面？讓機器人辨別雞蛋，並且不能踩，需要添加許多常識如「蛋殼是易碎的」「玻璃也是易碎的」等。要讓機器人理解雞蛋是雞蛋，需要海量的常識庫。

暫時不用太擔心人工智慧在這方面有所突破，更多的擔心來源於VR。

另一種來質疑圖靈測試的方法，人工智慧學習的內容呈指數級增長，它故意不通過圖靈測試，它撒謊了，那怎麼辦？

人工智慧帶來的反思

人工智慧亦給人類帶來「造物主的煩惱」，如夏娃亞當在伊甸園的故事，是否面臨失控的煩惱？

如果人工智慧的處理能對每個人都說不一樣的話，是否能讓人願意與它溝通甚至戀愛？是否我們的生活本身十分貧乏，缺少與人溝通，所以才出現自然語言溝通的人工智慧？是否我們要反思我們的生活方式？

通過人工智慧，我們也可以來思考一些問題。究竟什麼是人？究竟人的特殊性在什麼地方？人在宇宙的地位又如何？人與禽獸的不同又在哪裡？

題外話：

最尖端的科技會被用在國防與色情領域，VR（虛擬現實）產生新興領域 virtual sex 。人類對於自己慾望控制非常低，VR SEX 對人類生活方式帶來許多改變？對生育率又有什麼影響？

往往對我們產生影響的不是最前沿的，而是與自己生活息息相關的科技。如電腦遊戲，人們不會認為它有吸毒版的危害，但通過VR呈現後，又將帶來什麼影響？

問答交流

Q1：人工智慧如何改變生活？

A1：當我們沉溺VR（虛擬現實）後，誰來替我們幹活？人工智慧會組成沒有道德層次的勞動者服務我們的生活嗎？

在《humans》中提出社會倫理道德問題，人不幹活，機器來替我們幹活。人不幹活，資金來源從哪裡來？機器人比人的使用成本更低，人又是否能找到工作？也不禁讓人反思，人區別於人工智慧中最大的特點是什麼？人類依靠人工智慧生活，人類文明又如何推進？

有一個詞「超人類」，人的某一部分能被機器替代，當你的身體被機器替代到百分之多少時，還能稱之為人？這些改變是否會對人類本身帶來撕裂，又或者移居到外太空，人是否會使用一些機器部件，改進自己的身體？這一切的改變，我們無法知道。

Q2：老師，你認為智能的奇點（奇點是未來的一個時期：技術變革的節奏如此迅速，其所帶來的影響如此深遠，人類的生活將不可避免地發生改變。奇點臨近暗含著一個重要思想：人類創造技術的節奏正在加速，技術的力量也正以指數級的速度在增長）是否會到來，人類是否會消亡？

A2：當奇點來到時，我們如何知道？有本書上提到，當奇點來到時，機器人會有幾個選擇：把人全部滅掉，因為人在地球上的生活太耗費能量；通過裝傻的行為與人共存。只能通過想像的方式來進行判斷，我們需要有一個檢驗的方法與標準，要定義什麼是人工智慧，不然奇點是否到來我們都無法得知，我們談論的只是可能性。

Q3：人類的智能中包括對於「自我」的的認知，而這種自我認知主要通過和不同社會關係所感知，人工智慧是否會走到這一步從而形成真正的「人格」？

A3：人類對自我的認知是第一人稱，任何其他人都無法直接感受。我們通過語言來轉接信息，語言是公共性的東西，但感受通過語言傳達必有減損。

Q4：人類具備文化的根本在於具有創造力，那麼智能是不是可以以創造力來定義？

A4：什麼是創造力？有個程序通過固定演算法能將照片轉化成不同風格的畫，它是否具有創造力？彭博社用程序生成股市新聞只需一秒，無人發覺。有個教授通過程序回復學生的提問，一個學期後，學生無人察覺。只要程序抓取關鍵信息，能將有效信息回答即可。

Q5：老師，人工智慧會不會通過幾億的過往的行為的程序載入，從而分析出最好的答案，與人類交往，甚至成為最完美的外交發言人？

A5：可以成為好的發言人，但人工智慧對真善美、好的認知沒有認知。

Q6：人類是不是也是「基因」製造的基因「智能」機器？有人把基因和人的關係類比為人和超級智能機器人的關係，老師如何看？

A6：舉例，給智能機器編寫基本定律：使某人安全冬眠裝入機器，延續一百年後喚醒。這過程中，這個人是不是就是機器里的「基因」？

可以做基因類比。基因變化過程十分緩慢，智人與人只差一個剪輯。人工智慧通過學習，是否能通過信息存儲對下一代升級產生影響？我曾與一個科學家對談，機器與人的差別在哪裡？我認為有兩點：

人有意圖、目標，機器沒有具體身體，不會產生具體意圖。人有意向性，當我們的思想在談論某件事，指向某個對象；機器做不到，無法產生持久的關聯。從哲學角度來談論，這兩點可作為切入點。

我認為如果人工智慧能夠達到情感上特徵匹配的程度，即只會鍾愛某一個人，具有排他性和唯一性，就解決了人在情感方面痛苦的問題，這種能滿足人在精神上對「忠誠性」需要滿足的機器人如果出現，可能會對人類社會產生衝擊，因為這是人類的弱點和強烈矛盾衝突的問題。

因為戀愛會耗費人類很大的資源，通過人工智慧替代戀愛對象的需求可能很大，這樣之後，人類社會又是否會走向終結？

更多精選文章點擊以下頭像

點擊獲取：獨家音頻內容|跟著大咖去耶魯遊學，和全球頂級教授探討

哲學家王東嶽：人類文明是人類的不幸？

［招賢納士］

新媒體合伙人、總編輯、編輯、主筆

產品經理、新媒體運營、首席視頻官

商務BD、平面設計、漫畫師、文案策劃

點擊大咖名字，查看精彩筆記

合作夥伴：混沌研習社｜創業邦｜領英中國｜36氪｜騰訊｜京東｜正和島｜中歐｜微鏈...

請您繼續閱讀更多來自 筆記俠 的精彩文章:
TAG:筆記俠 |

※人類真的會被人工智慧反統治？
※讓人工智慧監視人類工作 你恐慌了嗎？
※人類危在旦夕？人工智慧究竟要怎麼搶走我們的工作
※未來屬於人類還是人工智慧？
※郁喆雋：未來人工智慧會溫柔地「統治」人類
※人類為何希望戰勝人工智慧
※霍金論「人工智慧」或將毀滅人類，我們有必要恐慌嗎？
※當人工智慧超越人類，我們怎麼辦？
※人工智慧若超越人類，會發生什麼？
※人工智慧和人類的未來
※人類需要擔心外星人入侵嗎？專家的解釋令人放心
※人工智慧若超越人類會發生什麼？
※為什麼人類會哭泣呢？科學家的解釋令人信服
※人工智慧會毀滅人類？馬斯克和霍金都深受他的影響
※人類什麼都怕
※蘋果從大學挖角人工智慧教授：可擊敗人類
※未來人工智慧機器人真能威脅到人類么？
※人工智慧再次戰勝人類，人工智慧強勢闖入醫療
※IBM人工智慧專家：別誇張，人工智慧不會毀滅人類