人工智慧的憲制想像——從歷史的觀點切入

【提要】將人工智慧放在更廣闊的歷史視野中來看，每一次大的科技革命都會帶來法律規則體系的重大變化，這一次也不會例外。人工智慧可能會取消大規模的簡單勞動，會帶來社會更加走向實質的不平等，如果沒有憲法干涉，社會資源會向少數資本精英和技術精英集中。致力於兩個一百年奮鬥目標的中國共產黨和中國政府，必須從憲法層面對其積極應對，加以規範。

【關鍵詞】人工智慧憲制想像社會不平等財稅制度法律調整

【中圖分類號】DF【文獻標識碼】A【文章編號】1008-1747（2018）05-0045-07

【DOI】10.19632/j.cnki.11-3953/a.2018.05.008

一、問題的提出

這是最好的時代，也是最壞的時代。狄更斯的名言也可以被用來描述這個人工智慧時代的到來。所謂最好，即以互聯網、大數據和人工智慧為代表的新時代的到來，給人類帶來了前所未有的變化和便利。那些在之前社會十分重要的技能（比如過目不忘的記憶力），在這個新的時代也許變成不那麼重要的技能，因為有了百度等工具加以替代。不僅一些傳統社會中簡單重複勞動被機器所取代，而且隨著人工智慧的不斷發展，比如無人駕駛汽車的出現，演算法使得機器能夠根據不同情勢予以不同的判斷和處理。這表明機器可以擁有一定的思維和推算能力，而非簡單地重複機械勞動。機器人在家務勞動、器械處理、法律諮詢等方面已經表現出與人類相似的抽象思維能力，甚至由於其強大的計算能力，在某些領域可以打敗人類。阿爾法狗連續打敗超一流圍棋棋手就是典型的例子。

任何法律規則體系都建立在若干社會前提之下。當下的法律規則體系就包括若干前提。一是人是唯一有邏輯思維的法律資格主體。這也意味著人是唯一享有法律權利的主體。二是人作為最高級的智慧生命，作為地球上的主宰者，需要對現代化所帶來的社會風險承擔責任。比如狗雖然也有生命，但是不可能為其亂咬人行為承擔法律責任，而是由狗的主人來承擔。但是大數據和人工智慧時代的到來，這兩個前提都遇到了前所未有的挑戰。即機器是否擁有了與人類似甚至更高的邏輯思維能力？機器的智慧是否可能在未來超過人類？如果機器擁有了與人類相似或者更高的邏輯思維能力和智慧，那麼人類目前的法律規則是否意味著面臨全面的挑戰？

二、歷史視野中的人工智慧

人工智慧是人類社會的偉大發明，同時也存有巨大的社會風險。它或是由「技術—經濟」決策所導致的風險，也可能是受法律保護的科技文明本身帶來的風險，這一社會風險具有共生性、時代性、全球性的特點。[1]比如，法律主體資格問題、法律責任分配問題、知識產權歸屬權問題、機器人侵權問題、隱私權問題、交通秩序問題等等若干法律問題。但是，從更大的歷史視野來看，人工智慧並沒有從根本上改變現行法律規則體系的主要前提。

首先，人工智慧的本質是演算法。人工智慧的本質在於演算法和數據處理，物理形體不必然是人工智慧的構成要素，它實時收集信息，並按照演算法的要求做出決定，繼而行動。[2]所謂「演算法」，通俗地講，可以理解為處理問題的一種編碼形式，這也是計算機軟體運行的核心。一個演算法至少要包括三個要素，即它必須是有限的，必須有明確定義的指令，必須是有效的。[3]演算法的製造者是程序員，但是絕大多數的程序員是受雇於一個公司或者組織，為了解決某個或某些現實中存在的問題，而進行演算法的設計。只要這個演算法的設計者能夠追溯到一個組織或者個人，即便這個人是黑客，那麼這個被追溯者仍然可以被法律分配來承擔演算法給社會帶來的風險。演算法的本質說到底也就是一組編碼而已。不論這組編碼如何高深莫測，其本質上仍然無法超越人作為一種理性和精神合一的高級智慧生命而存在。人並非僅僅是一個複製的編碼程序。即便演算法本身是一種獨立存在，它也不具備成為法律資格主體的條件。

其次，在歷史上，人類社會隨著複雜性的增加，不可避免地產生以組織和技術形態出現的各類「黑箱」，它們的決定影響著社會發展和大眾福利，但仍然保持著某種秘密性。[4]在如何處理演算法的法律後果時，通常有內外兩種路徑。作為法律規則而言，通常是從後果來進行介入。即不論這個技術黑箱如何複雜，法律通常奉行不介入狀態，而只對其法律上的後果進行判斷。這也是千百年來人類社會不斷發展，新技術層出不窮而法律規則能夠僅僅微調而加以應對的原因。當然，人類社會和大眾本身對於技術的黑箱是充滿好奇心的，所有社會和大眾會不斷要求新的技術和組織增大披露義務，讓大眾知曉黑箱內部如何運作。這就是公眾知情權的來源。但是法律和司法的邏輯並非如此。雖然立法和行政表現出積極的姿態，但是不論經濟社會如何發展，司法多數情形下一直保持著被動中立的姿態。

再者，從19世紀末開始，隨著資本主義進入到高級階段，高技術所帶來的巨大風險，使得法律責任的分配機制開始向結果主義和客觀主義（即無過錯責任）回歸。在人類社會的早期，「殺人者死」和「以牙還牙」的觀念基本上佔據著法律原則的核心地位，在法律責任領域的對應觀念就是報應和懲罰為主。到了17-18世紀，資本主義發展初期，貝卡利亞等一大批法學家提出了面向未來的法律觀念，即法律的功能不僅僅是懲罰，更應該是預防。所以18-19世紀法律的功能越來越表現為預防，而在法律責任領域則表現為主觀主義（過錯責任）。這段時期，法律責任十分強調主觀心態，即故意和過失在法律責任上有著很大差別。但是隨著第二、三次科技革命的發生，社會中的風險越來越大，很多時候對於人的主觀意圖難以界定，而後果嚴重的事件又必須有人為此承擔責任。所以，結果主義和客觀主義的原則又開始出現在現代法律的法律責任分配體系中。比如在交通事故，環境污染事件，一些高風險的侵權行為中。[5]正因如此，演算法的黑箱不論如何複雜，不會影響到法律責任的分配，因為法律可以通過結果來進行風險責任分配。

所以，從更大的歷史視野來看，人工智慧在技術上的確是遠遠超過了過去幾千年來人類的想像，但是對於古老的法律制度而言，其衝擊也許被高估了。事實上，早在20世紀40年代就有科學家斷定機器會挑戰人類的統治地位，但時至今日，所有的人工智慧事實上都還是在人類的掌控之中。阿爾法狗挑戰所有頂級棋手的戰績的確給人類巨大衝擊。但實際上之所以頂級圍棋棋手會敗於阿爾法狗之手，一個重要原因今天的圍棋棋手都職業化了，都是在限定的規則下（比如限定時間）進行比賽。因為機器本身沒有情緒，而人類最大的優勢和缺點都在於有情感和情緒。所以在規定的時間內簡單地和機器比演算法，人類當然比不過機器。但如果按照傳統圍棋的規則，不限時間地點，隨時可以封盤，人類則極可能走出機器所意向不到的妙手。李世石在第四局對陣阿爾法狗時，就走出了神來之子，擊敗了阿爾法狗。

法律制度本質上是對人的權利義務關係和社會風險責任的分配機制。所以馬克思的觀點沒有過時，一切法律關係的本質還是人的社會關係的表現。只要科技技術還是受人類的控制，那麼不論這個演算法是多麼高深莫測，法律規則的基石就仍然沒有動搖，法律規則仍然可以運用自身的靈活性來應對這個不斷變化著的世界。比如美國已經立國兩百餘年，但立國之初的憲法並不經常修改，而借用靈活的司法體系和判例制度來適應這個不斷變化的世界。所以，從歷史的觀點來看，人工智慧的發展並沒有從根本上動搖現行法律規則體系的基石。

三、人工智慧對憲法體系的真正挑戰

人工智慧沒有動搖法律制度的基石，但並非對法律制度毫無影響，而是影響巨大。只不過現有研究並沒有抓住問題的關鍵之所在。人工智慧是資本時代機器取代人工的進一步升級。這裡面隱含著科學技術（以演算法的形式表現）和資本在社會中更大的權力。從互聯網的發展來看，就會發現在經歷了早期的跑馬圈地之後，今天的中國互聯網主要掌握在BAT [6]為首的幾大互聯網巨頭手中。在近年來爆發的數次共享經濟大戰中，均可以看到三大互聯網巨頭和資本大鱷的身影。比如滴滴打車和快車還有優步打車最終以和解告終，其根本原因就是背後的三大巨頭及其背後的資本巨頭達成了妥協。目前正在進行的共享單車最開始有數百家公司加入。經過數年的燒錢和血拚，目前基本只剩下小黃車和摩拜兩家能夠存留下來。究其原因，在於這些技術創新和盈利模式創新的背後，最終都是資本說了算。

進一步來分析，任何技術創新的背後實際上是資本力量的結果。科學家固然是科學技術最直接的創造者，但是要明白科學家有無數個創新的想法，但是只有獲得國家或者資本的力量支持，這種想法才可能轉換為技術，才可能進一步進入到市場和社會生活中去。典型的例子就是核能源和克隆技術的不同命運。出於打敗納粹的目的和美國政府的支持，核武器才可能被轉化為軍事武器，並進一步轉化為核能源。但是克隆技術由於挑戰了人類社會基本倫理，則遭到了全球政府和資本的封殺。人工智慧的背後更是資本的深耕。人工智慧的每一次進步，都意味著人類簡單勞動不再被需要，甚至一些准人類複雜勞動也完全可以被人工智慧所代替。典型的就是無人駕駛汽車，外科手術機器人等。由於人工智慧不需要休息，可以不間斷地工作，彌補了人類在體力上的局限和思維上的有限性。今天的物流業，由於大量人工智慧的出現，實際上車間工人已經很少了。通過人工智慧，商品從生產者到消費者手中需要通過人工搬運的次數不斷減少，這也意味著對簡單勞動者的需求在減少，也意味著簡單勞動者在市場中的需求和議價能力在下降。

資本和資本支持下的技術在市場中的權力進一步增強，意味著收入分配將進一步向資本和技術方傾斜。首先，擁有資本的人在整個收入分配中佔據最高的份額，擁有技術（或者稱為演算法）的人（又被成為碼農）將獲得最高的工資性收入，而從事簡單勞動的人的收入水平（相對收入）會越來越低。如果政府和法律制度是中立的，那麼整個社會的基尼係數會進一步增大，使得整個社會的收入分配更加朝著兩極分化的方向發展。一個典型的案例，隨著人工智慧的發展，無人駕駛汽車將會使得私家車的價值大大降低，也會使得傳統計程車行業向汽車租賃公司轉型。這會對整個汽車行業帶來巨大的變化。首當其衝的就是大量司機會失業。當然，人工智慧的發展也會創造新的就業崗位，但對於那些40-50歲的簡單勞動者而言，轉型其實是一個非常困難的問題。相比之下，無人駕駛汽車會產生大量汽車租賃公司與滴滴類似的平台合作，由公司直接購買大量先進的無人駕駛汽車，並通過滴滴這樣的移動互聯網平台與消費者直接進行點對點的對接，結果就是擁有先進技術和資本的公司（包括滴滴等平台公司）會成為最大的受益者。某種意義上講，人工智慧的確會提高人們的舒適感，但也會要求很多傳統行業的人必須進行轉型。這就好比淘寶天貓等電商崛起客觀上導致了很多傳統零售行業的衰落是一樣的道理。

人工智慧並沒有像我們想像的那樣實現了知識的擴散並有助於社會公平，而是製造並加大了新的社會裂痕和不平等。[7]在很多行業，都會出現人工智慧取代人類的現象。比如機器人醫療諮詢、機器人法律諮詢等等。這些行業中人工智慧的出現就會讓這些行業中的簡單勞動者失去了存在的意義。比如在醫療行業，現在出現了外科醫生的機器人助手。這些助手不會覺得累，可以不停工作。護士和一些簡單的類似看片的工作未來也都可以被人工智慧所取代，只需要專家做最後的判斷即可。一些研究認為，在2020年左右，人工智慧將會奪走發達國家500萬個工作崗位，十年之內，人工智慧將替代至少1/3的工作崗位。[8]所以，人工智慧對於人類社會的最大影響在於資本和技術在整個社會中的影響力會越來越大，而且在社會財富的分配中會佔據更大的比重。

所以，人工智慧對於人類社會的真實挑戰是憲法意義上的。

首先，人工智慧可能挑戰未來的政府治理體系。隨著人工智慧的發展，未來人類社會最大最重要的財產可能會是數據。而未來，掌握數據最多的可能不是政府，而是掌握著人工智慧的平台商業巨頭公司。毫不誇張地說，像阿里巴巴、騰訊這樣的商業巨頭，可以說對於絕大多數人的活動軌跡、商業偏好、個人習慣都了如指掌。這實質上是一種巨大的權力。不管這些公司是否意識到，他們都獲得了比人類歷史上任何政府都渴望獲得的更龐大的資料庫。只要是希望獲得互聯網便利的人，都自願不自願地將自己的絕大多數個人數據交給了平台公司。[9]所以，在這個意義上，類似的商業巨頭公司成為了一個超政府組織。浙江高院通過對接阿里巴巴平台獲得訴訟相關人的地址進行訴訟文書的送達，就是一個平台公司參與政府治理的典型案例。所以，這個意義上，未來的政府必須思考如何協調與這些興起的平台商業巨無霸的關係。這本質上是一個憲法問題，即政府機構如何治理民眾的問題。未來的治理並不單純通過官僚機構，而可能需要通過商業機構等社會組織。

其次，人工智慧對於公民之間的關係的挑戰則更為深遠。在人工智慧高度發達的當代社會，公有性知識私有化的進程被迅速地放大了，而且給知識的所有者帶來了巨大的壟斷利益，這種壟斷利益遵循收益遞增規律。[10]人工智慧在給普通人帶來很多實實在在的便利的同時，讓巨型資本及其支持下的技術精英成為了整個社會的核心，普通民眾會越來越難以擺脫自己階層的宿命。但這種關係卻很好地偽裝在充滿人情味的人工智慧所帶來的各種便利現象之下，越是普通民眾越難以發現。這將進一步加深人與人之間的不平等，使得憲法所規定的人人平等的社會藍圖難以自然實現。就以所謂的共享經濟為例，它不僅客觀上打擊了計程車司機的利益，也使得滴滴平台中的專車司機對於平台的依賴和被剝削關係更加緊密。這實質上也是一個憲法問題。

四、人工智慧所存在的局限

人工智慧對於人類社會的影響是巨大的，但是也不必過於誇大。阿爾法狗的橫空出世，讓所有人為之一驚。現有研究把人工智慧劃分為三個階段，即弱人工智慧時代、強人工智慧時代和超人工智慧時代。但是所謂能夠超越人類智慧水平的超人工智慧時代能否最終實現，仍然是一個懸而未決的問題。因為對於人類而言，一直存在著無法用單純科學來解釋的疑問。也就是說人類的智慧並不僅僅能夠用科學來解釋。人類所具有的情感等並非機器所能夠實現。而且人工智慧本身也存在一些局限。

首先，人工智慧是物，而且是受人控制的物。不論這個演算法是如何精妙，他所具備的是一種邏輯思維能力，但不具備法治所需要的辯證邏輯思維能力，只具有形式邏輯能力，也沒有運用法律原則和模糊性法律規範的能力。[11]人是動物，但又是一種高級靈長類動物，到目前為止，沒有任何證據表明存在和人類一個智慧等級的生物。人類是一種物質與精神的結合體，人與其他生物最大的區別就在於人類具有的精神和思想，而這種精神和思想並非形式邏輯思維。比如人類具有形象思維、會喜怒哀樂、貪嗔痴等。科學史表明很多重大的科學發現都是形象思維的結果，而非邏輯推理的結果。科學本身主要就是先提出假設再論證假設的過程。而這個過程中的前提就是要提出假設。所以某種意義上將科學研究依賴於人類，尤其表現為天才的想像力。演算法再精妙，也不可能實現思維的跳躍而進行天才想像。

其次，人工智慧研發具有秘密性、分散性、不連續性及不透明性。[12]任何技術的研發都需要提前預測其風險，比如核能源的開發和利用。但是人工智慧的研發確實具有不確定性，而且研發過程存在高度的信息不對稱。人工智慧所帶來的技術上的高度信息不對稱會使人類控制風險變得越來越困難。從1978-2013年福島核泄漏事故[13]來看，科學技術的發展在給人類社會帶來便利的同時也確實帶來巨大的風險。「人工智慧的發展最終會導致人類族群的滅絕，」斯蒂芬·霍金接受BBC的採訪給出了這樣的觀點。特斯拉的創始人埃隆·馬斯克把AI稱為「人類最大的潛在威脅」。[14]儘管這些科學家的觀點過於極端，但是也並非完全無可取之處。對於人工智慧研發具有深度掌握的人群主要是技術精英和資本精英。當失去有效制約時，普通人與精英之間的不平等會變得更加明顯。

再者，人工智慧的發展儘管不會從根本上挑戰目前的法律制度體系，但肯定會給現行法律制度帶來很多困擾。一是人工智慧風險主體的多元性和不可預知性導致了對其監管的法律困惑，由於參與人工智慧系統部件的主體多元和不可預知，很難確定出責任主體。[15]尤其是在諸如交通事故和醫療事故領域涉及侵權責任等案件之中。在這些涉及責任分配的案件中，可能會對於傳統的歸責原則產生一定的挑戰。比如過錯責任會更多的向無過錯責任轉化。

五、結語

目前部分科學家對於人工智慧的估計可能是言過其實了。一個最主要的論據就是這些對人工智慧充滿擔憂的科學家幾乎都是從技術層面對人工智慧進行分析，擔心人工智慧可能會衍生出超過人類智慧的更高級的生命形式。但這充其量只是一種猜想而已。如果要對人工智慧進行客觀冷靜的分析判斷，必須上升到哲學和歷史層面。從馬克思的歷史唯物主義來看，人工智慧本質上是人的工具而已。人工智慧並不具有人類所擁有的那種精神。人工智慧與歷史上的紡織機、蒸汽機、汽車一樣，本質上是人的能力的延伸。人工智慧所引發的社會問題本質上不是機器與人之間的關係，而是掌握人工智慧的人與其他人之間的社會關係。所以，目前一切對於人工智慧可能消滅人類的預言某種意義上掩蓋了掌握人工智慧的一小群人與社會大多數普通民眾之間的統治與被統治的關係。

更深的問題在於人工智慧所帶來的對政府治理方式的改變，以及資本技術所帶來的公民之間更加不平等的關係。這實質上涉及了憲制的兩個基本問題。政府如何治理民眾，民眾之間的關係如何？如前所述，人工智慧並不能顛覆人類在地球中的主宰者的地位，人工智慧也沒有根本上改變我們的法治原則，但是其真正的挑戰是憲法意義上的。一是人工智慧使得政府的統治高度依賴於技術和數據，甚至於包含技術和平台的公司成為了政府的一部分。二是資本和技術會越來越在社會中佔據統治地位，按勞分配為主、多種分配形式並存的的憲法原則會受到實質性挑戰。面對這種實質挑戰，我們應該採取相應的措施，來加以積極應對。

首先，作為執政黨的中國共產黨需要高度重視人工智慧所帶來的國家治理形式的快速變化。傳統的治理模式下，黨和政府主要關注那些看得見摸得著的人和物。人工智慧的發展其實依賴於大數據和物聯網的高速發展。這意味著數據成為了未來國家治理的關鍵因素。數據可能成為主要的財產形式之一。那些掌握數據的公司就意味著掌握了財富。而掌握多數人數據的公司實質上成為了一個帝國。所以作為執政黨的中國共產黨有必須考慮如何與這些掌握了多數人數據的商業巨頭保持一種有效而適當的緊密關係。這種接觸和關注有兩個目的。既可以使黨和政府隨時掌握最新的人工智慧發展到什麼程度，也可以使得黨和政府在涉及國家安全或者重大公共利益的問題時可以獲得相關的信息。這也意味著國家治理和公共權力的行使可能通過民事的方式來進行。

其次，對涉及大數據和人工智慧的財產法和民事責任分配作適當的微調。儘管人工智慧不會根本上改變我們的法治體系，但是在財產權主體和法律責任分配原則等都提出了一些新的時代課題。典型的就是個人隱私權問題。個人信息如姓名、電話、出生日期等毫無疑問屬於個人隱私。但個人的網路瀏覽痕迹、使用高德地圖遺留下來的個人活動痕迹等類似的信息，是否算個人隱私權的保護範圍？這就是一個值得爭議問題。極端的個人隱私權保護者認為任何與個人有關的信息都屬隱私權保護的範圍。但如果作這樣的法律認定，互聯網公司將受到致命打擊而無法再取得發展。所以，對於個人隱私權的保護範圍，可能以相對傳統的觀點為好。對此可以通過司法解釋的方式予以明確。但另一方面，個人的網路痕迹擁有人格權。如果互聯網公司濫用了自身對於個人互聯網痕迹的使用權，仍然構成民事侵權，並應承擔相應的法律責任。所以對於類似個人網路痕迹這樣的數據，互聯網公司可以使用海量數據集合成的資料庫，但是不能對其進行還原。也就是說，互聯網公司被允許的是使用大數據的權利，但不得將數據還原並使用具體的個人信息。因為從技術上講，對於互聯網公司而言這很簡單。所以必須予以法律上的約束。

最後，由於人工智慧快速發展對於分配原則的實質性挑戰，作為執政黨的黨和政府有必要通過一定的法律規則（比如財政稅收法律、教育法）修改來實現收入的二次分配，以彌補人工智慧給社會平等和按勞分配所帶來的實質性衝擊。最基本的就是要進一步提高社會基本保障水平，另外要穩步推進財產稅法律制度。基於中國是一個政治、經濟發展極不平衡的大國，基本社會保障的提高除了依賴中央財政外，還需要強有力的地方財政保障。相當長一段時間內充當地方第二財政的「土地財政」收入不可能一直為地方提供支持（隨著房地產價格的日趨平穩），所以以房產稅等為代表的地方稅種應穩步推進。

注釋（從略）

（作者為中央黨校政法教研部副教授）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！