「電子人」——建構人工智慧的法律人格「人工智慧與未來社會：趨勢、風險與挑戰」學術研討會之十一

上海社會科學界聯合會主辦主管

GIF/64K

以學術為底色 以思想為旗幟

「電子人」——建構人工智慧的法律人格

鄭戈 | 上海交通大學凱原法學院教授

今年年初，歐洲議會提交給歐盟委員會一份報告提出，鑒於基於人工智慧的機器人日漸進入人們的日常生活，並且註定會在給人帶來便利的同時帶來一定的損害，而且，這種不僅有「手腳」還有「大腦」的機器人有可能具有獨立的「判斷能力」，所以需要在自然人和法人之外，另外增加一個法律主體，叫「電子人」。這個立法過程現在正在進行，可以預期的是，歐盟在不久的將來就會出台相關規則。從這個話題延伸開去，我們可以看到歐洲總體上對人工智慧的危害性考慮比較多，而且對「機器人」做了擬人化的理解。這種思路在人工智慧領域可謂由來已久。

一、法律與人工智慧關係緊密

在我看來，法律和人工智慧的關係是非常緊密的，著名科學家和科幻小說作家阿西莫夫早在1942年便提出了機器人三大律法，歸根到底就是為了防止機器人對人類造成傷害，確保機器人永遠在人的控制之下。羅素在1951年發表了一篇對維納《控制論》的評論，題目就叫「人類還有必要存在嗎？」，可謂是對人工智慧時代人類的生存意義發出了終極之問。那時，人工智慧還處在初級階段，遠不能跟今天以物聯網、大數據和雲計算為基礎的人工智慧相比。

其實，人工智慧與法律思維有著很強的表面相似性，世界上的兩大法系分彆強調演繹邏輯和歸納的重要性，這與人工智慧領域的兩大流派分別對應。美國大法官霍姆斯在19世紀末的時候寫到：「法律的生命不是邏輯，是經驗。」邏輯用機器、計算機來模擬是最簡單的，早在今天的人工智慧出現之前，計算機在演繹邏輯方面便已經可以替代人類了，但前提是人類要進行編程並輸入作為大前提的數據。今天，人工智慧已經可以利用大數據進行深度學習，只要把它聯網並設定目標，它就可以從人腦已經無從把握的海量數據中自行搜索、自行學習。可以說，它在經驗歸納方面也獲得了超越人腦的能力。IBM Watson一直在從事法律人工智慧方面的研究和開發，它的ROSS系統已經可以代替律師從事法律研究，而法律研究（Legal Research）是傳統律師業務中最耗費工時的工作。據說ROSS可以替代目前美國律師70％的工作，而且準確率高達90％以上，遠遠高於頂尖法學院畢業生從事同類工作的準確率。當然，目前主要由律所合伙人從事的人際溝通工作和法官的判斷工作是無法被機器取代的。但就人工智慧能夠取代的部分而言，如果將人工智慧全面付諸實用，將會有70％的美國律師失業。無論是在美國還是中國，律師需要花大量的時間來研究法條和案例，讀完之後要寫成備忘錄，以供在法庭上或談判中使用。ROSS系統不光可以做法律研究，還可以把研究結果寫成簡報，所以出庭律師或從事非訴業務的律師只要拿到這個簡報就可以去干剩下的少量據說更有創造性的工作了。雖然聽起來很高大上，但這是法律人最擔心的事情，顯而易見，人工智慧可能會取代很多法律人的工作。

二、人工智慧給法律帶來巨大挑戰

上述挑戰雖然是最直接的，但人工智慧對一些基礎法律概念和思維方式的挑戰才是更加根本的。首先，整個法律體系的前提是人的主體性，即人有自己的主觀意圖、能夠按照這種意圖採取行動並承擔行動的後果。同時，人的主體性也意味著人的有限性，這種有限性體現在感知能力、理性能力和身體能力等各個方面。所以人總會犯錯，有過錯便有責任，這是法律結構中的核心線索。人類一直在試圖強化自己的能力。比如，過目不忘一直是中國傳統文人最為欣賞和希望得到的能力之一。《三國演義》中的張松，在接過楊修遞給他的《孟德新書》並快速瀏覽一遍之後，說這哪裡是什麼新書，分明是戰國時無名氏所作，為曹丞相所抄襲。楊修不信，結果張松把該書內容背出，一字不差。還有各種傳說中的千里眼和順風耳。但如今的人工智慧已經能夠輕鬆地做到這些。「合成智能」（synthetic intellects）是目前人工智慧的一種表現，機器學習、神經網路、大數據、認知系統或演進演算法都是它的不同面向。它不是傳統意義上的編程，也就是說，它突破了「機器只能做程序員編排它去做的事情」這一範圍，你只要給它一大堆人類窮其一生也無法瀏覽完的素材、還有人類智力根本無從理解的無結構數據，再設定某個具體的目標，最終系統會產生什麼結果完全不可預見，不受創造者控制。另一個領域是「人造勞動者」（forged labors），它們是感測器和執行器的結合，可以執行各種體力勞動任務，從海底採礦、外空維修到戰場殺敵。機器人的大腦、感官和手足是可以分離的，手腳（執行器）可以延伸到離大腦（CPU）十萬八千里的地方。雖然人工智慧目前還沒有獲得真正意義上的自主性，但從它可以產生人類無法預見的結果這一點上看，它已經具備了一定的獨立性。人工智慧使我們不得不重新思考人的主觀能動性，以及這種主觀能動性的局限在哪裡。

第二，以作為機器學習基礎的大數據採集作為例子，朋友圈曬娃的行為是自願的，但是這種自願在法律上並不意味著同意某些公司採集到你的信息以後去做別的用途，所以個人意圖的邊界也在這個時代出現了新的問題。個人信息披露顯然是為了更加便利享受服務，個人最終披露的信息將是海量的，全方位的。那麼就事論事，在一次次具體的信息披露中，辨別個人是否同意，是否明知個人信息會被用於某一特定用途就變得越來越困難。

第三個方面也涉及到大數據。互聯網的特性使得分享、複製、轉存變得異常便捷。最初的數據佔有者即使已經刪除了相關信息，這些信息仍有可能逸散在虛擬空間中。人工智慧現在所處理的就是沒有被結構化的信息，由於人類根本無法感知和理解這種未被結構化的數據，所以其處理過程是一個只有人工智慧能夠「理解」的黑箱。陳鍾教授在發言時提到要打開這個黑箱，讓法律進入演算法，演算法進入法律。這個思路很好，或許意味著法律人和人工智慧專家需要展開更深入的合作。

第四點，正因為這種過錯的判斷變得越來越困難，當損害結果發生後要追溯到最初，仍要經過無數的環節，每一個環節都可能產生蝴蝶效應，幾何式地擴大損害結果。有一個很有趣的例子，2010年美國股市發生了閃電崩盤，一萬億的資產價值瞬間蒸發，指數瞬間下跌了1000個百分點，這件事情發生後美國證券交易委員會用了半年的時間才搞清楚原因是什麼。原來是一些炒家的人工智慧系統在操作「高頻交易」時導致系統崩潰。所謂高頻交易，就是說不經過人的具體指令，機器每秒鐘都可以「自動」進行無數次交易，還可以相互探測和利用對方機器的交易策略，而傳統的計算機不會做出這種策略性行為。

第五，過錯與損害結果之間的因果關係也變得越來越難以判定。現在人工智慧和大數據領域流行的一句話就是說相關性取代了因果關係，因為人工智慧可以進行全數據分析，而因果關係的出現僅在人類只能對有限數據進行分析的情況下才有必要存在，如果人工智慧已經可以進行全數據分析的話，那就完全不用考慮因果關係了，只要考慮相關性就行。但恰恰因果關係是法律體系中的核心概念，如果沒有因果關係就談不上法律責任。

第六，進行大數據存儲和處理的政府和其他大數據擁有者能夠更準確地做出預測，防患於未然，採取干預手段改變事情的發展軌跡，也就是說事情沒有發生的時候通過大數據預測會發生什麼，杜絕事情的發生。人們可以通過觀察、統計、分析而發現近似於自然規律的社會規律，但由於技術手段的欠缺，這一野心以前沒法變成現實。而大數據存儲和人工智慧已經使得樣本分析可能變成整全分析，這就變得越來越精準。美國的互聯網大佬和其他很多人都說過類似的話：我們越來越從由法律來統治社會的狀態進入到由演算法來統治社會的狀態。相關技術使未來大數據的掌控者能夠預測到、甚至可以控制你到底想什麼。

現實中，歐盟和美國對個人數據保護強度是不一樣的，歐洲更加強調保護個人的數據，如果大數據掌控者（往往是公司）沒有經過本人的允許去利用這個數據，哪怕沒有實際損害後果，你也是可以去告它的。而且，這種控告不一定要通過成本巨大的司法程序，歐盟層面和許多歐洲國家都有專門的個人數據保護機構，這種行政法化的個人數據保護模式極大地降低了個人提出數據保護訴求的成本，但同時也極大地提高了基於大數據採集和使用的人工智慧發展的成本。但美國仍採用傳統的侵權法模式來保護個人數據，這就意味著：（1）你大致上只能走司法途徑，而打官司是成本高昂的；（2）你必須證明自己遭受了實際損害（actual damage）；（3）你還要證明你聲稱的侵害行為與自己遭受的實際損害之間存在因果關係。這些都使得象谷歌這樣的大數據掌控者和人工智慧開發商佔據優勢。這裡面還涉及到國際競爭的問題，現在大家都在爭搶AI的制高點。AI不是愛，如果過於保護個人權利了，就意味著人工智慧的發展會受到人為的限制，從而在這個日新月異的領域錯失發展時機。中國因為錯失了第一輪工業革命的先機，曾經淪為「半殖民地半封建社會」，因此在這一輪「人工智慧革命」中把握先機的渴望和決心都是可以理解的。如何權衡取捨，需要綜合考慮我前面提到的以及更多沒有提到的因素。象今天這樣的多學科學者的對話，便有助於我們理清思路，提出更加均衡、穩妥的方案，供決策者參考，也供公眾了解背後的複雜權衡。

（本文為鄭戈在2017年8月28日由上海市社聯《探索與爭鳴》雜誌社和華東政法大學政治學研究院共同主辦的「人工智慧與未來社會：趨勢、風險與挑戰」學術研討會上的主題發言，經本人整理，不代表本公眾號的立場。）

《探索與爭鳴》人間體

聯絡員小探

xiaotanxiaosuo

轉載 | 合作 | 諮詢 | 建議

長按掃碼加好友

END

人文社科學者的平台

《探索與爭鳴》

唯一官方微信平台

版權所有。歡迎個人轉發，媒體轉載請聯繫授權

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！