透明人與空心人：人工智慧的發展對人性的改變
作者：高奇琦
近年來，人工智慧已經成為國內外研究的一個重要主題，關於人工智慧的研究成果大量湧現，但其中關於人工智慧對人性影響的研究卻相對較少。那麼，關於人性善惡的討論在未來的時代條件下會產生哪些變化？或者說，隨著人工智慧和大數據時代的來臨，人們會更加走向人性善還是人性惡？當人工智慧逐漸獲得人類的特性之後，人類存在的意義將會是什麼？這些關鍵問題對於人類發展的重要性是不言而喻的。
一、人性善惡的歷史爭論
在人類的思想史上，關於人性善惡的爭論一直是一個永恆而經典的話題。尤瓦爾·赫拉利（Yuval Harari）在《人類簡史》中指出，人類之所以能夠把地球上其他大型生物消滅的原因之一，在於人類具有「講故事」的重要技能。用更加學術的語言說，這種技能在很大程度上其實就是人類思想的力量。特定時空的思想可以把個體的人更為有效地組織起來，並以群體的方式發揮出強大效應，從而克服自然條件的限制而獲得更好的發展。從思想史上看，任何一種思想都是基於人類自身而產生的，其中一個重要的方面，就在於這些思想往往是以人性善惡的假設為基本前提的。
對於「人性惡」的假設，一直是西方思想發展的重要基礎。美國著名聖經學家穆爾（G.F.Moore）明確指出：「由於亞當的罪，世人都成了罪人，大家都處在上帝的律法遭到破壞的厄運下。不僅如此，罪不是人的天性，不是來自上帝的創造；但是由於遺傳、效法和習慣,罪成了第二天性，而且彷彿成了人所固有的素質，不可能擺脫的東西」。因此，「原罪說」是基督教人性論的思想來源，而且在很大程度上也構成了西方思想的源頭。由於這種思想的支配性影響，西方几乎所有的社會科學知識都是圍繞人性惡的基本假設而展開的，其核心就在於對人性惡的約束與防範。例如，霍布斯在《利維坦》中提出的「自然狀態」，即一切人反對一切人的戰爭，便是基於性惡觀念的假設。在此基礎上，社會契約、國家制度和權利觀念等才得以發展起來，由此，這種人性惡的假設也構成了西方現代政治學和法學發展的基礎。而現代西方經濟學也存在「理性人假設」，即假定每個理性的個體都是自私自利地追求個人利益的行為體。這其實也是人性惡假設的精細版。上述兩種觀點在很大程度上構成了西方社會科學知識的主軸，很多研究都是在這兩點假設的基礎上展開的。例如，國際政治理論中的主流學派——現實主義同樣也堅持了人性惡的假設，認為國家對權力的追逐是不可避免的。這一點被古典現實主義、結構現實主義以及之後發展出的進攻現實主義、防禦現實主義以及新古典現實主義都奉為圭臬。
然而，人性惡的假設僅僅是人類知識中的一部分，與西方形成鮮明對比的則是中國思想史中關於人性善惡的討論。中國的傳統思想給人性的本質提供了更為豐富的思想資源。其中最為典型的是儒家學說，儒家從最初開始便十分強調人性善的一面，例如，孟子用「惻隱之心」來解釋人性之善。當然，中國思想中也有強調人性惡的理論，其中最為典型的則是荀子的性惡論。不過，儘管荀子強調人的本性是惡的，但是通過後天改造可以去除人性中的惡，樹立起道德觀念，亦即所謂「化性起偽」。荀子的學生韓非子將這種理論再次推進，提出了更加赤裸裸的性惡論。韓非子用一系列論證和寓言故事論證人性惡的一面，並在此基礎上提出法家著名的權力至上和專制的思想。除了這兩種典型思想之外，中國歷史上的其他一些思想家也對人性進行了較為複雜的分類。例如，董仲舒在《春秋繁露》里便提出了「性三品說」，他將人性分成上、中、下三品，而區分的標準實際上就是善惡的程度。
有關人性善惡的簡單二分法並不能洞察人性的複雜，我們應當認識到，善與惡應當是人性的兩個基本方面，更為重要的是，善惡的出現與人所處的外部環境緊密相關。例如，在生存狀態極其惡劣的情況下，為了爭奪稀缺的資源，人性會偏向惡的一面；而在生存狀態大為改善的情況下，人們減輕了對稀缺資源爭奪的壓力，人性便更加偏向善的一面。觀察人類的發展歷史就會發現，人類的演進是一個暴力逐步減少的過程，或者說是人性逐漸由惡轉善的過程。有學者通過大量的數據統計和分析後，認為過去世界中的血腥與殘酷，已經在今天大為減少，今天我們正生活在人類歷史上最和平的時代。
從經驗觀察來看，人類在近幾十年中對暴力的排斥非常明顯。例如，在一百年前，戰爭中戰鬥人員屠殺平民並不是什麼禁忌，但在今天已經受到絕大部分人的抵制。這種變化也引發了關於戰爭倫理的討論，例如，施密特在其著作《政治的概念》中就提出了把戰鬥人員偽裝成平民展開戰鬥的辦法。在早期關於戰爭的思想著作中，為達戰爭目的不擇手段似乎是一個被認為正確的公理。但是在戰爭倫理不斷發展的今天，暴力的使用被制定了嚴格的規則。另外一個支撐人性善的重要內容是慈善的興起。人性良善的社會必然是充滿慈善和善行的。在現代社會中，慈善越來越成為經濟社會生活中非常重要的一項內容。一個合格的企業或公民都要花費一定的時間來做慈善，並將其視作現代生活的重要組成部分。而在工業文明之前或早期，當人們還不能解決自身溫飽問題的時候，這種現象是不可能普遍存在的。因此，普遍的慈善或公益行為，與後工業社會的出現有著密切關聯。羅爾斯的「差別原則」便是在這一背景之下提出的。差別原則的提出作為西方政治思想史上里程碑式的事件，提倡人們在考慮利益時不再以個人的利益為中心，而要以最不利的人的利益為中心。這一思想的提出，也給現代社會的公平正義提供了新的標準和依據。更為重要的是，這些原則的運用和實施，也可以逐漸引發心理學中的共情效應，進而從道德革命的層面提升人性趨善的程度。
如果說人性向善的趨勢需要一定的外部條件，那麼由科技革命引發的生產力大發展和生活形態的進步，則為人性展示其善的一面奠定了基礎。這一點在人類現代化的過程中表現得尤為明顯，而現代化的基礎在很大程度上就是科學技術的不斷進步。因此，兩次工業革命深刻改變了人類的社會形態和物質基礎，而以信息技術為代表的新科技革命則在更深刻的層面改變了人類的生存形態。按照這種邏輯，以人工智慧為代表的新一輪科技革命，同樣也會影響和改變人性發揮作用的外部基礎。那麼，隨著人工智慧所帶來的這種基礎條件的改變，人性將會產生哪些新的表現形式和變化，則是需要我們認真思考的。
二、大數據時代下的透明人
可以預見到，在未來的大數據時代中，人類幾乎沒有什麼隱私可言。近年來包括各類社交軟體在內的一系列移動互聯網APP的興起，極大地改變了人類的生活習慣。其中的一個關鍵變化在於，每個個體都在不斷向數據服務提供商提供自己的數據。但是，許多人在這個過程中並沒有意識到這種行為對未來產生的重要影響。例如，人們在Facebook或微信朋友圈中上傳自己的照片，並在與朋友的相互交流中獲得愉悅。多數人只是將這個行為視作非常有趣的事情，卻沒有想到這一行為對其隱私構成的巨大隱患。例如，如果誤加了一個懷有惡意動機的陌生人的好友請求，他就會將你的朋友圈信息彙集成關於你和家人的信息圖譜，從而利用其中的漏洞而對你的生活造成威脅或傷害。從目前已經發生的類似案件來看，這將會成為一件輕而易舉的事情。
目前，人們不僅養成了向服務提供商提交數據的習慣，並且這一趨勢正以加速度的方式向前演進。值得注意的是，在你提交自己數據的同時，往往也在提交別人的數據。例如你發布的照片中包含照片本身的信息以及照片的地理數據與時間數據，並且如果你的照片中出現了另外一個人，那麼後台的機器就會通過人臉識別獲得另一個人的信息。在這種情況下，儘管你身在現場，但人工智慧會比你更了解你所處的環境。更為重要的是，這些信息在很大程度上是可以永久保存的。這種情況很容易讓人想起邊沁（Jeremy Bentham）發明的全景式監獄和福柯（Michel Foucault）提出的社會大監獄的景象。邊沁發明了一種全景敞式監獄（panopticon），以便於管理者密切監督每一個罪犯，因為充分的光線和監督者的注視比黑暗更能有效地捕捉囚禁者的一舉一動。福柯則提出了社會大監獄的說法，意味著在社會之中，監視就像人的毛細血管一樣無處不在，而人也在社會規訓中做出自己的選擇。這些場景在很大程度上與大數據時代中人的境況非常相近，即人們生活在一種缺乏隱私和充滿監視的環境之中。由此，在大數據時代，人的隱私問題就會變成一種迷思。
因此，筆者提出了一種「透明人」的概念。所謂「透明人」，是指通過大數據的比對和信息還原，每一個個體在一系列時間段的所有行為都可以在事後被展現和還原出來，由此每個人的生活狀態都將在很大程度上成為透明的。這種情況已經在現實生活中出現了，例如調取監控錄像已經成為現代刑偵中的重要手段。當某個爭端或犯罪活動出現的時候，四周往往都會存在監控攝像頭，而警察可以通過一定程序調出相關錄像而獲得關鍵證據。這種圖景在未來可能應用得更為廣泛，因為在現實生活中，越來越多元的感測器或軟體正在不斷產生大數據內容，記錄下人們生活的方方面面。例如，我們所有的郵件都會存儲在服務提供商的數據平台上，我們所有的文字溝通記錄，也都會保存在社交媒體軟體提供商所提供的信息平台上。如果有正當需要，相關人員可以通過一定程序獲取這些資料。我們已經知道，在現在的公共空間中已經布滿了各種感測器。如果說目前我們還有許多信息採集的死角，那麼在未來，這種死角會越來越少。因此，這種人的信息的透明化和無隱私化，在物聯網時代會更加顯著。物聯網意味著原本無意識、無感知以及無信息處理的物，通過人們後期的編程和計算而變得更加智能。物聯網的發展，也會逐漸進入到人們的私人生活空間中，去獲取人們的數據信息。例如智能家居的發展，就是在家庭中部署更多的感測器和信息處理設備，而且這些感測器和設備都需要通過聯網來實現其功能。因此，智能家居的使用關鍵在於其自動化的功能，尤其是依靠服務商後台人工智慧的信息處理來牽引。如果智能家居得到普及，那麼人類的家庭生活都會暴露在人工智慧的監控之下，這會讓人的隱私空間變得越來越小。
在人們的觀念中，家庭是隱私的重要範疇，在家庭中每個個體都是家庭的領主，他們在這片領地中享有完全的隱私。因此，在美國一些州的法律中，不經主人同意私自闖入其住宅，主人甚至可以使用暴力來驅逐，這種暴力被視作合法和正當的。按照自由主義的理論，人有決定自己命運和重要事項的權利。然而，智能家居的發展卻使得家庭的私人空間的屬性變得越來越弱。因為，智能家居公共空間的屬性給感測器的布置提供了合法性。而智能家居的管理要交給聯網後的控制中心來處理，這就給控制中心或後台技術人員獲取個人隱私提供了便利。當然，智能家居只是物聯網的一個側面，未來的一系列相關發展會更具複雜性。
很多歷史學家都致力於「還原歷史」，但在很大程度上，歷史往往是難以被完全還原的。因為歷史是由人來記錄的，而由於人的主觀性的存在，歷史的細節和真相很難被完全還原出來。這種歷史的不能還原性，被義大利哲學家阿甘本概括為「證言的不可能」。阿甘本用一個極其抽象，同時也少見的例子來論證這一點，他指出，在奧斯維辛集中營，那些看到過最恐怖事件的人是沒辦法生存下來的，而生存下來的人恰恰是那些沒有看到過恐怖場景的人，因此從更為精確的意義上講，證言是不可能的。阿甘本的觀點在刑事偵查的領域中具有非常重要的啟示。當一件兇殺案發生後，警察所搜集的許多證據和證言實際上是碎片化和不完整的，人們很難通過碎片化的信息還原出完整的現場。然而，隨著大數據和物聯網時代的來臨，這種情況可能會發生顛覆性的改變。原因就在於，人為記錄的歷史將會被由感測器和電子設備所記錄的大數據信息所取代，而後者的客觀性和全面性，會在很大程度上實現具體場景或事件的還原。
當然，這種「透明人」的發展趨勢也可能產生一定的副作用，一個異化結果就是，信息的謬誤會對人造成長期的不利影響。例如，一次謠言或某一場司法糾紛，就可能會把某些人的相關信息暴露在網路之中。然而由於網路的自我繁殖式的傳播，這種負面信息就會永久存在於網路空間中。針對這一問題，社會上出現了關於「遺忘權」的公共討論。大數據時代的一個重要特性是讓記憶變成了常態，而遺忘變成了例外。而在人類歷史中，遺忘一直是常態而記憶才是例外。人類克服遺忘的鬥爭是通過語言、書寫和繪畫等形式來實現的，人們發明了這些記錄人類知識的形式，並不斷強化自己的信息提取能力，從而儘可能地克服遺忘。長期以來，能夠「青史留名」的總歸是少數。但是隨著大數據時代的來臨，人類社會的記憶變成了常態，而遺忘變成了例外。也就是說，與人相關的所有信息幾乎都會被記錄下來，沒有什麼可以被遺漏。然而，人並不是絕對完美的，人的一生中會有無數次的錯誤，人們獲得發展的重要方式就是在錯誤中學習，並且在很大程度上忘記錯誤，否則人就會在自我糾結中痛苦終生。從這個意義上講，對於人類而言，遺忘也是人的一種生存方式，同時也可以被視作一種權利。
但是，大數據時代中的透明人卻很難獲得這種遺忘和被遺忘的權利。當關於某一個人的不利信息存在於網路之中時，他人的每一次搜索都會加深這種負面印象，導致不良標籤經久長存。尤其是對於刑釋人員而言，犯罪的不良記錄會長期存在，這會讓他人對其產生標籤化的刻板印象，由此產生歧視和自然隔閡。更為重要的是，這種不公平的負面印象會增加這些人改過自新的難度。例如，刑釋人員可能會深刻感受到自己將遭受的排斥和歧視，從而增加他們的心理壓力和妨礙其社會融入，甚至可能造成其再次犯罪。正如電影《肖申克的救贖》裡面描述的情景，一位名叫布魯斯的老犯人在幾十年中習慣了監獄的生活，卻在出獄之後無法適應外面的生活而最終選擇自殺。同時，對於那些沒有違法犯罪的人而言，由於長久存在的負面信息而導致的他人的歧視和誤解，可能會促使其產生犯罪的心理，從而走向違法犯罪的道路。因此，我們需要對這一問題進行深刻的反思和補救。對於那些在互聯網上有負面信息的人，當可以證明這些信息是錯誤的時候，應該可以要求信息服務提供商全面刪除這些信息。當然，這種被遺忘的過程在實踐中是極其困難的，因為會有太多的人向服務商提出申請，但提供商根本無法有效辨別這些信息的真偽。而且信息服務提供商也只能刪除自己平台上的信息，對於已經轉載的內容也是無能為力的。這種情況可以清楚表明人們在大數據時代所面臨的困境：人們需要通過信息和數據的提供來改善生活的質量，但是每個個體向社會提供的信息越多，他暴露出的瑕疵和錯誤也就越多，從而使得對其信息的修改和美化就會越來越困難。
三、空心人在物聯網時代中的進化
正如前文所提及的，物聯網時代是描述未來的一個辭彙。而在物聯網中最重要的基礎條件應當是廣泛存在的各類感測器。在物聯網時代，感測器的數量將是人類數量的幾百上千倍。且不說未來的智能家居和機器人的應用會以幾何級的增長速度來增加感測器的數量，單單目前每個人的智能手機上，就已經集成了20多個不同的感測器。我們經常聽到和感受到的感測器，就有重力感應器、加速感測器、光線感測器、距離感測器、電子羅盤等等。而目前更高端的智能手機所配備的感測器還有氣壓感測器、指紋感測器、霍爾感應器、心率感測器、紫外線感測器、血氧感測器等等。感測器作為物聯網中的重要設備，既是信息的採集方，也是解決指令的發出方。人們的日常生活已經和這些感測器密切相關了，而這種關聯程度也會隨著技術的普及而越來越密切。從目前來看，感測器未來發展的兩個重要領域，就是語音識別和人臉識別，而這兩個領域都是針對人的。而這些識別技術進一步發展下去，就會與情感計算結合在一起。也就是說，感測器和後台設備不僅會判斷出某一個人是誰，還可以通過其表情來分析其心理狀態的變化。可以想見，基於海量的大數據，這種情感分析技術會變得更加精準，而這種技術的一個重要應用，就是讓測謊儀的使用變得非常普及和便利。
在科幻或魔幻影片中經常會出現「讀心人」，而這在未來可能會變成現實。例如，人的語音信息中包括了非常多的情感因素，人在緊張狀態下的語音和自信狀態下的語音是完全不同的。而語音識別軟體不僅能識別語音信息，還能分析語音背後人的情感變化，這就是測謊儀所希望實現的基本功能。隨著此類識別技術的發展，未來的測謊儀可能會變成手機的一種功能。可以想像這樣一種場景，未來的你和某人對話時，可以打開軟體來實時測試此人所說話的真假。與此相關，人們也可以通過攝像頭採集的數據來分析人的微表情，來判斷出這個人背後的一些想法。實驗證明，人類的大部分行為都受制於規律、模型以及原理法則,而且它們的可重現性和可預測性與自然科學是不相上下的。因此，未來的技術發展會讓說謊的人變得越來越沒有市場。當然，這種理想的情況並不是一蹴而就的，在這些技術的應用初期，人們可能會因此而與身邊的親友產生糾紛，甚至斷絕關係。但正如囚徒困境中的博弈模型的結果那樣，當人們反覆多次博弈之後，合作可能會成為最好的結果。在囚徒困境中，囚徒的煩惱在於由於彼此的信息隔閡導致其不能商量，但是技術的發展將會使這一問題得到很好的解決。如果這種情況成為現實，那麼犯罪率在未來的降低也是可以預期的一件事情。陽光是最好的防腐劑，充分的監督可以極大地降低犯罪率，這一點在工業時代就已經得到證明。近期，為了與智能城市的發展相配套，杭州在城市公共空間中安裝了更多的攝像頭和感測器。現實證明，這對改善杭州的公共秩序和降低犯罪率有很好的輔助效果。在這種技術條件充分發展的條件下，幾乎所有的行為過程都可以被還原出來，這就極大地壓縮了犯罪分子活動的隱性空間。因此，如今的許多重要案件，都是通過分析攝像頭捕捉的信息而破案的。如前所述，福柯從批判的角度來看待監視對人類自由的約束，但從另一個角度來講，這種監視也極大地限制了人們的不良行為，特別是犯罪行為的發生。
與此相關的另一項重要的科技進展，則是DNA檢測技術的普及。近年來，利用DNA技術破獲的重要案件層出不窮，其中一個較為典型的案件就是著名的白銀特大殺人案。犯罪嫌疑人在二十多年前連環殺害多名女性，一度造成白銀市的社會恐慌，當時警方儲存了犯罪嫌疑人的DNA信息，但在當時的技術條件下難以排查到嫌疑人。而在多年之後，堅持不懈的警方在DNA配對中發現了非常相近的樣本，從而找到了犯罪嫌疑人的親戚，由此順藤摸瓜，破獲了這起長期懸而未決的案件。同時，前文論及的阿甘本關於「證言的不可能」的論述，也因為這些技術的發展而變得可以商榷。長期以來，對於許多刑事案件而言，相關的證據和證言往往是碎片化和不完整的，而且人們也很難通過這些信息還原出完整的現場。人們對福爾摩斯式人物的嚮往乃至崇拜，實際上源於這種還原的高難度。然而，隨著DNA檢測等技術的發展，還原現場變得更加可能和容易。即便犯罪嫌疑人採取了一系列反偵察的手段，但總是會在現場留下蛛絲馬跡，而這些會隨著技術的發展而被警方獲取。例如，由於生物監測技術的進步，即便犯罪嫌疑人帶了手套，但手套與手指之間依然會產生能量的交換，公安部門便可以通過現場遺留的痕迹進行信息還原。更為重要的是，現在很多國家的公安部門正在建立龐大的DNA資料庫。這不但有利於對犯罪嫌疑人的追蹤，還可以提供震懾功能，使得潛在的犯罪心理化於無形。當然，也有人反對政府對公民DNA的普遍採集，其理據在於，採集DNA就意味著他成為了潛在的犯罪嫌疑人，但這與司法上的無罪推定理論是相悖的。也就是說，對於沒有犯罪嫌疑的普通人，不應當像對待犯罪嫌疑人那樣，去採集他們的個人信息。
阿甘本非常敏感地結合親身經歷討論了這個問題。在「9·11事件」之後，阿甘本受邀赴美國的一所大學講學，但在機場安檢時被要求採集指紋，對此，他以學者身份表達了憤怒。出於安全的考慮，機場的這種做法在美國是合法的，但是阿甘本則將其視作納粹虐待猶太人和殘殺國民的前置性事件。在阿甘本看來，當年正是在對猶太人和吉普賽人採集指紋之後，希特勒才得以發動種族滅絕的計劃，並最後導致了德國乃至世界人民的悲慘命運。從這個角度來看，美國在機場採取指紋的措施與納粹德國的行為並無區別。阿甘本的這種觀點反映了DNA採集等技術應用對人類自由的限制。但從另一個角度來看，機場採集每個人的指紋也反映出現實社會對人性最壞情形的無奈應對，換句話說，就是做最壞的打算，把殘酷性置於首位。同樣以安全檢查為例，所有乘坐飛機或火車的人都會被要求檢查攜帶的行李物品。這意味著，每個人都被定義為可能攜帶違禁物品的「嫌疑人」，因為我們無法通過簡單的觀察就能把那些攜帶違禁物品的人與正常遊客區分開來。由此，把每個人都當作潛在的危險人物的最壞假設就成了當今維繫社會安全的最佳制度。英國著名哲學家大衛·休謨（David Hume）的「無賴假設」可以很好地解釋這一制度設計。休謨認為，雖然大多數人都是好的，只有少數人是無賴，但是在制度設計時必須把每個人都當作無賴。
這一系列論證都指向一個主題，即在大數據和物聯網的時代，幾乎所有的與我們相關的歷史和場景都可以被還原，而人們在這一過程中的錯誤行為或者犯罪行為都會被其他人或相關機構捕捉到。一開始，這種錯誤或犯罪的暴露會引起人們的恐慌，但是在經過多次博弈之後，人們會普遍對這些行為越來越謹慎，不再容易說謊或犯罪，即便有人被捲入錯誤行為，他也會在第一時間去公布自己的心理狀態，因為他知道這件事遲早會被發現，只有事先坦白才能降低人們對其錯誤行為的譴責。假如這種互動模式能夠沿著積極的方向長期演進，那麼使用陰謀和爾虞我詐的「計謀人」將可能逐漸成為歷史，而真誠可愛、很少或永遠不說謊話的「空心人」將會成為人的主流形態。
四、套路的終結與人類獨特性的消失
如果空心人成為人的主流形態，那就會導致「套路」的終結。具體來說，在人類的顯性規則之外，還有大量的潛規則存在。人們習慣於用「套路」來表示人類社會中的一些潛規則。也就說，當一個人新進入某個情境中時，對於這些潛規則是不了解的，只有長期生活其中，才會清楚相應的運行規則和規律。在社會學的學術表達中，這種現象也可以被稱為默會知識（tacit knowledge）。
然而，空心人的流行會使得潛規則的意義越來越弱，甚至逐漸消失。在這一背景下，人們會選擇更加善良的行為方式，或者說，人性向善的條件也會越來越成熟。弗朗西斯·福山（Francis Fukuyama）在其著作中討論了信任的問題，他認為信任增加了社會資本，從而創造了繁榮。羅伯特·帕特南（Robert Patnam）的《獨自打保齡球》與福山的主題是一致的。帕特南認為，美國人的現代生活使得原先的傳統共同體在減弱，人們在工業文明早期的小團體中形成的社會資本正在消失，這對美國社會產生了不利的影響。因此，帕特南和福山都強調信任和社會資本對於人的重要意義。戴維·布林（David Brin）也在《透明社會》一書中引用被稱為「域名女主人」的埃斯特·戴森（Esther Dyson）的話：「真正的挑戰不是讓所有事保持秘密，而是限制信息的濫用。這也意味著信賴和更多關於信息如何使用的信息……無論他人怎麼要求你更具開放性，最合理的方案就是讓這種開放性變成互利共贏。信任但是要驗證，沒有互惠的合作就是支配關係」。這幾位學者的討論都指向一個主題，即信任節省了交易成本，當人們之間不信任時，就會設計出複雜的制度來降低風險，而這些都會成為社會成本。但是，如果生活在一個充滿信任的社會中，這些制度和交易成本都是可以節省下來的。例如，傳統的圖書館需要設計出一套複雜的程序和制度讓借書人在規定時間內還書。但隨著社會的發展，目前圖書館都簡化了相應程序，人們不需要什麼手續就可以拿走相應的書。但是這種做法並沒有導致書本的減少，反而吸引了人們把自家的書捐給圖書館，這就是相互信任所產生的社會力量。
互聯網和物聯網的發展邏輯，實際上就建立在這種開放共享的理念之上。一個明顯的案例，就是許多黑客所追求的開源軟體，正是基於這種理念而得到發展的。例如，2011年，艾倫·施瓦茨（Aaron Swartz）因公開了從期刊儲存機構JSTOR得到的大量科學論文而遭到JSTOR的起訴。由於庭審的不利和自身的抑鬱症等原因，他於2013年上吊自殺。由此，施瓦茨被視為互聯網開放的先行者和犧牲者，並使得大量黑客針對JSTOR發動了各種請願和攻擊，後者也表示歉意並公開了部分數據。這一案例也表明，互聯網的發展意味著開放和共享理念的實現基礎在增強。安德森在《免費》一書中指出，未來的互聯網或大數據服務要做到免費，這使得理性世界中的算計變得越來越失效。在這種情況下，精於算計和套路的「計謀人」就會變得無用武之地。人們會更加坦然地面對套路及其影響，用禪宗的話語來說就是：沒有套路就是最好的套路。
然而，套路的終結也產生了另外一個新的問題。即人們可能會對人類存在的意義更加迷茫。人類之前驕傲地認為只有人類是有情感的，並且也認為人類思維的複雜性是人和機器的重要區別。也就是說，包括爾虞我詐和算計等在內的「套路」，在很大程度上也是人性的自然反映。但是套路的終結也就標明，人類的獨特性也在消失。而就人類的情感而言，人們要藉助於人工智慧才能來解決社會中極其複雜的問題，而複雜的問題往往也是和情感結合在一起的。因此，人工智慧的發展也會使得機器越來越像人，甚至可以讓機器人具備一定的情感。在未來，人與人工智慧談戀愛的情況可能出現，而更為可能的情況，則是人藉助人工智慧來解決心理問題。目前IBM研發的Watson機器人可以為人們提供非常便捷的法律服務，但是法律問題往往是與情感問題相關聯的，因此未來人工智慧的法律服務也需要增加情感的選項和內容。由此可知，機器的情感化是人工智慧不可避免的發展方向，而與之並行的則是人類的「空心化」。這種情況的出現，就使得我們去思考一個元問題：在放棄了那些被認為人類獨有的套路或複雜情感之後，人類還會有什麼獨特的東西？進而言之，如果說人工智慧會從外部條件的角度促使人性趨向善的一面，使得人們變得「透明」和「空心」，那麼人類在實現普遍的善之後還會追求什麼意義呢？難道人類追求的意義就是指揮人工智慧來為人類服務嗎？在某種程度上，對於這些元問題的思考是令人煩惱的，但同時又是不得不面對的。對於人類自身而言，人工智慧可以改善生存條件，同時也會通過對人性的影響而帶來新的問題，這些都是我們需要深入思考的
五、結 語
綜上所述，關於人性善惡的爭論是中外思想史的重要主題，但隨著現代社會的發展，尤其是近半個世紀以來，人性向善的趨勢變得十分明顯。在很大程度上，這與經濟條件的改善以及道德倫理的發展密切相關。在未來，人工智慧、大數據和物聯網的發展會使得人性向善的趨勢更加明顯。在大數據和物聯網時代，「透明人」將成為人類的重要生存狀態。因為在人工智慧深入生活的情況下，人類會變得沒有什麼絕對的隱私可言。即便是在家庭這樣重要的隱私空間中，也會由於智能家居和機器人的應用，而使得隱私的保護變得非常困難。或者說，在新的時代條件下，遺忘變成了例外，而長久的記憶變成了常態。這就使得與人類比較相近的歷史可以被完整複述和還原。另外，伴隨著人臉識別和語音識別等技術的發展，測謊儀可能會成為非常普及地應用。而DNA等生物技術的發展也使得犯罪現場的還原變得非常容易，這會使得犯罪行為大大減少。這些發展都會促使人類越來越少地採取套路、兇殘和錯誤的行為。或者說，人們在全面監視的威懾之下，通過相互之間的多次博弈，往往會採取真誠的策略而放棄相關的「套路」。因此，從人工智慧的發展趨勢及其對人性的影響來看，人性向善的外部條件會變得越來越成熟，走向善良和真誠應當是人類不可避免的選擇。但是，這種「套路的終結」也會引發新的悖謬。也就是說，包括爾虞我詐和算計等在內的複雜情感似乎是人與機器的重要區別，或者說是人類獨特性的重要表現。但是，如果人們放棄了這些套路，在推動機器逐步走向情感化的同時而讓自身走向「空心化」，以此來實現普遍的善，那麼屆時人們很可能將對人類的存在意義產生新的困惑。這一終極性元問題，將會是人類在推動人工智慧發展的時候所必須深入思考的。
原文刊發於《學術界》2017年第9期
TAG:學術界雜誌社 |