自動駕駛的倫理困境：保護行人還是保護乘客？
供圖：Margo Wright
如果你的汽車發生了致命的交通事故，你願意殺死一個無辜的路人還是車上的5名乘客？通過網路調查向參與者收集了近4000萬份各種不同的回答，科學家現在已經深入了解全球範圍內關於此類困境的倫理偏好，這些新發現將來可能在完善無人駕駛汽車領域中起到作用。
谷歌，特斯拉和其它專業公司的目標是使無人駕駛汽車成為現實，他們認為這可以減少人為失誤造成的交通事故。但是，這種自動駕駛汽車剛剛經歷了一些致命事故——例如5月份一輛自動駕駛的優步汽車與行人發生了致命碰撞——表明它們不僅需要道路導航，還需要對死亡事故有決斷能力。例如：如果一輛無人駕駛汽車正處在危險時刻，它應該撞向一名孕婦還是迅速轉向一堵牆使車上4名乘客死亡？
一個著名的思想實驗，似乎非常適合解決這個問題，那就是來自英國的哲學家菲利帕·富特提出的電車難題。這個難題是想像你駕駛的是一輛剎車失靈的電車，有5名路人被綁在鐵軌上，如果你不轉移軌道，這5名路人將會被壓死，但如果你轉移軌道，另一條軌道上的1名路人將會被壓死。這個問題存在許多情形，可以幫助人們探索他們可能選擇生或死的人。
圖註：著名的「電車難題」；圖片來自網路
2016年，科學家發布了倫理調查平台，在線調查詢問人們對電車問題的各種情形，探討有關自動駕駛汽車的道德決策。該實驗為參與者提供了涉及無人駕駛汽車和不可避免的事故情景，這些事故危及行人和乘客的各種組合。參與者必須根據諸如潛在受害者的性別，年齡，健康甚至物種等因素來決定車輛將帶走哪些生命。
18個月來，研究人員從全球233個國家和地區收集了近4000萬份此類決策。他們發現全球有許多相似的倫理偏好，包括挽救最多的生命，優先考慮年輕人，以及重視人類應該超過動物。最常見的回答是嬰兒，兒童和孕婦。
結果還表明，不同文化之間的道德觀有所不同。例如，來自拉丁美洲以及法國及其海外領地的參與者強烈傾向於保留女性，年輕人和運動員。此外，擁有完善法律制度的發達國家，參與者認為：與遵守交通法規的人相比，亂穿馬路的人被挽救的次數更少。
研究報告的共同作者，劍橋麻薩諸塞學院的計算機科學家伊亞德拉萬說：「當我們查看是否不同的國家具有差異時，我們對這種差異感到震驚。」
科學家們還發現了有爭議的倫理偏好。例如，超重的人死亡率比健康人高出約20％，無家可歸的人死亡的幾率比公司高管高出約40％，遵循交通法規的人死亡率要低於那些破壞交通規則的人。
圖註：遵守交通規則的人被救幾率更高；圖片來自網路
科學家宣稱他們的結果可能並不代表一般人的倫理偏好。例如，該研究的參與者是來自互聯網的志願者，並沒有使用嚴謹的抽樣技術進行選擇。「這是一個有趣的問題，究竟誰是適合做出決策的人選？」北卡羅來納州達勒姆杜克大學的計算機科學家文森特康尼澤表示，他沒有參與這項研究。
每個國家的人們都可以自由查看倫理調查平台的結果。科學家希望他們的研究結果對政府考慮自動駕駛汽車和編程這類機器的規定有用。「話雖如此，專家們不必滿足公眾的興趣，特別是當他們發現這些偏好有問題時，」研究的主要作者，麻省理工學院計算機科學家愛德蒙阿瓦德說。
杜克大學的神經科學家賈納斯基希博格沒有參與這項研究，他認為，自動駕駛汽車技術的工程師可能會感到沮喪，他們可能需要重新設計自動駕駛汽車來考慮倫理調查平台所關注的罕見案例。她說，「我認為在處理主要工程問題的同時也應該解決這類邊緣問題。」 「社會必須相信自動駕駛汽車最終能夠實現減少交通事故和挽救生命，如果汽車的行為方式與人類的道德價值觀相衝突，自動駕駛汽車就不會這樣做。」
圖註：自動駕駛不僅要解決工程問題，也要顧及倫理問題；圖片來自網路
研究人員一致認為，無人駕駛汽車不會經常面臨生死攸關的抉擇。研究報告的共同作者，哥倫比亞大學的心理學家阿齊姆沙里夫表示，「他們將不斷調整優化決策，將風險從某些人轉移到其他人身上。」 「一輛自動駕駛汽車將自己定位在一條車道上，應該靠近右側的卡車還是左側的自行車道？如果汽車總是被編程為稍微靠近自行車道，它們可能會略微減少撞擊其他車輛的可能性，同時略微增加撞擊騎車者的可能性。
「大多數時候，汽車的精確定位不會造成任何倫理困境，」謝里夫說道。「但是，在數百萬或數十億次的這種情況下，要麼會有更多的騎車者死亡，要麼會有更多的乘客死亡。參與者在倫理實驗的黑白場景中進行的類似權衡決策，主要取決於統計層面 ——我們稱之為統計電車問題。「
這項研究揭示倫理調查平台可能需要在其他領域進行倫理權衡。「一個例子是機器人護理員，他們可能需要在安全、隱私和自治之間解決一些不同的道德權衡，」阿瓦德說。
10月24日，科學家在「 自然 」雜誌上詳細介紹了他們的發現。
作者 | Charles Q. Choi
翻譯 | 趙冬
責編 | 高佩雯
美國物理聯合會（AIP/American Institute of Physics）--InsideScience專欄獨家供稿
https://www.insidescience.org/news/moral-dilemmas-self-driving-cars
文章由騰訊科普「科普中國頭條創作與推送項目」團隊推出
轉載請註明來自「科普中國」
