機器人違法，誰來承擔法律責任？

當下，人工智慧作為解決金融、交通、城市建設、醫療等一系列迫切的社會問題的手段，也對立法和公共政策的制定提出了更高的要求。

2018年11月24日，全國人大常委會委員長會議組成人員進行專題學習，圍繞人大立法監督工作保障和規範人工智慧發展進行學習討論，認為全國人大相關專門委員會、工作機構和有關方面要及早動手，儘快行動，對人工智慧涉及的法律問題進行深入調查研究，為相關立法工作打好基礎、做好準備。

美國、歐盟、英國、德國自2016年開始就積極推動人工智慧責任立法、人工智慧倫理準則以及自動駕駛、醫療機器人等領域的細分立法。從《「互聯網+」人工智慧三年行動實施方案》到人工智慧被寫入2017年政府工作報告，從《新一代人工智慧發展規劃》到十九大報告的「推動互聯網、大數據、人工智慧和實體經濟深度融合」，中國對人工智慧的重視正在不斷提高。

當下，人工智慧作為解決金融、交通、城市建設、醫療等一系列迫切的社會問題的手段，也對立法和公共政策的制定提出了更高的要求。在人工智慧興起的背景下，中國的司法改革也正在面臨更嚴峻的知識挑戰，這種挑戰短期內來自現代化治理的方法論，而長遠來看關係到的是人類對自身的「認識論」。

理財機器人庫早報：京東數字科技發布機器人通用底盤開發平台出問題，損失算誰的？

吳穎打開手機，同時開啟了四五個銀行APP。她使用理財機器人才兩個月，很多概念並沒有搞清，但她唯一清楚的是，這些署名「AI」的人工智慧投資顧問，會為她提供或穩健、或均衡、或成長、或積極的投資組合。她將手機推到《南風窗》記者面前，「人工智慧的好處我覺得就是直接，而且效率特別高。」她總覺得理財顧問都是「忽悠」居多，對「高科技」有一種下意識的信任。

理財機器人並不是一個「實體」機器人，面對面幫助客戶理財，而是透過線上調查問卷，或者是APP上客戶的資產和消費數據，來了解投資者的背景資料、風險偏好和投資習慣，再經由演算法「量身打造」一套投資組合。

舉例來說，理財機器人在做完投資習慣和風險調查後，會為願意承受高風險、進而享受高回報的投資者推薦全球股市比重佔70%、美債比重佔30%的投資組合；而為正在準備退休的保守型投資者，推薦股票型佔40%、債券型佔60%的投資組合。

理財的真正含義，是資產配置。先決定好投資工具，比如股票、債券、現金等，再按照個人的風險和回報偏好來配置比例。不過，在市場波動下，持有的投資組合會因為價格漲跌，凈值比例偏離原來的設定比例。而理財機器人的重要特點，就是自動地進行資產配置再平衡。它以月度、季度、年度的方式檢視資產績效，定期調整。像吳穎這種常年「996」的忙碌職場人士，再也不用茶飯不思地「盯盤」。

理財機器人也叫智能投資顧問（Robo-Advisor），是近年風靡華爾街的創新性金融科技產品。美國金融數據分析服務提供商Kensho，它的軟體可以在2分鐘內做出反應：當三級颶風襲擊佛羅里達時，哪只水泥股的漲幅最大？蘋果發布新款iPhone，哪家供應商股價上漲更快？

2016年，以招商銀行、廣發證券為代表的中國銀行和券商等金融機構，也開始入局。2017年，中國各大銀行、證券公司和保險公司均推出了相關產品。吳穎去年就聽同事們談及，一貫「保守」的她今年也加入了進來。

中國的理財機器人和國外的最大區別是，前者不能進行「代客資金交易」，說白了，就是不能「自行付錢」。「我也挺猶豫的，」吳穎說，「雖然買不買單，決定權還是在我手上，但萬一這個機器人出問題了，或者被黑客攻擊了，我的損失算誰的責任？是那個寫代碼的，還是黑客，還是整個銀行？」

同樣的問題也發生在醫療機器人領域。目前中國的醫療機器人應用尚未普及，但小範圍的應用也是事關「生死」。據了解，中國有三十幾家醫療機器人企業。北京積水潭醫院、301 醫院、河北醫科大學第三醫院等幾家醫療機構，已經開始臨床應用骨科機器人。深圳某企業的手術機器人，可以幫助醫生，通過使用電腦和軟體來控制和移動手術儀器，進入病人身體上的微小切口，來完成不同的手術步驟。

如果醫療機器人出現故障，發生醫療事故，權利和責任又該如何明確？會不會進一步激化中國業已嚴峻的醫患關係？

賦予人工智慧虛擬人格？

人工智慧是一種為社會帶來全方位變革的通用技術，可以應用到從農業、製造業再到法律、醫療、金融服務業等各種各樣的生活場景之中。而且，機器學習（特別是無監督學習）技術，會帶來結果的不可控性。就像微軟的聊天機器人，上線沒幾天，跟網友學會了不少粗話，甚至還學會了種族歧視。

因此，法律如何規制人工智慧，在鼓勵創新的同時，保護人類社會的基本價值，將風險控制在可控範圍內，是一個急需討論和立法回應的問題。

但中國社會科學院知識產權中心教授楊延超告訴《南風窗》記者，鑒於目前人工智慧的發展水平，制定一部總括性的「人工智慧法」，時機還不成熟。

最接近一般性人工智慧法的立法嘗試，是2016年歐洲議會向歐盟委員會提出的「機器人法」立法建議報告。這份報告的立法，只針對有形的「智能機器」，包括機器人、智能家電和自動駕駛汽車等。但是，對於人工智慧的核心—演算法，並沒有相關的規制。也就是說，其思路和規制食品安全、產品責任的思路基本上一樣。

那麼為什麼還要緊鑼密鼓地討論人工智慧的立法？楊延超認為，雖然人工智慧遠遠達不到人類的認知水平，但是作為工具的使用，已經出現了很多急需明確的權責問題。「這時候，我們就需要賦予人工智慧一個虛擬人格，來解決利益的第一層分配問題。」

他舉了一個例子，「就像法人，法人也不是自然人，但是我們能夠賦予公司一個虛擬的人格來明確它的地位。」對於人工智慧來說，「虛擬人格就是法律人格。從消極的方面說，就是判斷誰來承擔責任；從積極的方面說，就是行為的效力怎麼認定。」

自動駕駛是理解人工智慧立法難題的一個典型案例。目前，自動駕駛車輛是在一個「無法可依」的情況下「高調」上路的。2017年12月2日，四輛裝備著華為開發的「阿爾法巴-智能駕駛公交系統」的自動駕駛公交車在深圳福田保稅區上路，這是世界首例在開放道路上行駛的自動駕駛公交車。

自動駕駛首先面臨著「法律人格」地位下區分其民事行為能力和責任能力的問題。「過錯」是現代交通法構建的基石，酒駕、疏忽大意、無證駕駛都是「過錯」。然而，在無人駕駛的時代，「過錯」就要進行重新劃分。根據2017年5月德國聯邦議會批准的《德國道路交通法》修正案，如果自動駕駛模式正在運行過程中發生了事故，責任在汽車製造商；如果自動駕駛系統發出了請求人工控制的信號，責任才會轉移到汽車的駕駛人員身上。

楊延超說，這實際上是產品質量責任，也就是嚴格責任，它不關心「過錯」，而是關心汽車是誰生產的。在無人駕駛時代，交通事故的責任主體將由個人轉為汽車的生產企業。這對原有的交通法律，是顛覆性的。而且，人工智慧技術的應用可謂「牽一髮而動全身」，交通事故責任分配中的保險制度，也將出現徹底的轉變。

一直以來，保險制度在交通事故責任有著兩方面的作用。一方面它讓受害者救濟變得更加及時—受害者可從保險費用中先行獲得救濟；另一方面，它也分散了責任承擔，將一人責任分解成社會分擔。然而，隨著無人駕駛時代的到來，保險費用的交納或許將由車輛購買者變為汽車廠商。

「霍布斯時刻」的到來？

中國的司法改革，很大程度上是一種知識的改革。這絕不是說，法律人只要死讀書本就能解決法律問題，而是說，從司法決策的角度去看，它首先就是知識運用的過程；從程序立法的方面去看，它同樣需要知識立場和知識內涵。人工智慧的出現，以及其可預期的發展前景，為司法改革提出了更新的情況、更新的知識，如果不能理解這種知識，司法改革也將更加難以推進。

在當下「弱人工智慧」的狀態下，人們需要解決的往往是「知識產權」問題。這個問題的表層是，立法者需要給予人工智慧更多的權利。像撰稿機器人、作曲機器人、法律諮詢機器人，應該享有相應的創作者權利。更深一步去看，這些機器人背後創造其演算法的人，也相應享有創作者的權利，包括著作權、專利權等。

在中美貿易摩擦中，知識產權也成為爭端的關鍵。據悉，中國最高人民法院也將賦予知識產權庭更大的權力，來強化知識產權的重要性，統一知識產權案件的審判標準。

知識產權的應用範圍，需要不斷地「擴大」。但是，諸如「密碼朋克」「自由軟體運動」等群體的崛起或運動的爆發，也提供了另外一種可能。越來越嚴格的知識產權保護，也許極大地阻礙了知識、技術、想法的快速高效流通，從而極大地阻礙了人類的創新活動和發明活動。

這就意味著，「弱人工智慧」時代的立法或規制，特別需要注意自身的尺度和邊界。它既要給文化傳播、發明創造留下足夠的空間，也要保護創作者的「私人財產」——以利於長期的、持續的、有回報的知識生產。它不僅要鼓勵和保護人工智慧的獨立「發揮」，也要前瞻性地避免人工智慧帶來的破壞和損害。

然而，等人們跨越「奇點」，或者進入「強人工智慧」時代，立法者面臨的就不僅僅是知識產權的問題，或者說羅馬法里的「繳出賠償」原則—機器人的「主人」最終承擔責任；而是電子人格是否與人類人格真正等同的問題，換句話說，就是強人工智慧算不算一個「人」。

雖然沙烏地阿拉伯在2017年授予機器人索菲亞以公民身份，還向她發放了護照，但炒作的色彩大於實際意義，索菲亞遠沒有具備「思考」的能力。楊延超提到了科幻作家阿西莫夫的「機器人三定律」，他認為這一文學設定的意義是重大的，強人工智慧具備人類的諸多能力之後，人類的安全問題應該被首先納入考量。

對於法律人而言，技術的更迭，時代的更替，都是一種大的背景，而司法改革並不以變化為目的，歸根結底，它以公平和正義為目的。

如今的人工智慧在司法領域的應用，特別是在取證方面，極大地提高了效率。對人工智慧知識的掌握和理解，也意味著對正義的理解的進一步加深。遲來的正義雖然好過沒有來的正義，但依然比不上「及時」的正義。

而面對未來將與人類平等的強人工智慧，人們對「主奴關係」「公平」「正義」的看法，又將與今日截然不同。人類從來沒有賦予過任何一個物種與人類相等的權利，正是因為其他物種無法與人類抗衡。當人工智慧遠遠超出人類的想像之後，法律又該如何規範兩個物種的生活？如何創造一個穩定的預期？還是說，人類將再次面對那個「一切人對一切人」的「霍布斯時刻」？

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！