無人車失控，如何作出生死抉擇？人類指示：先犧牲男性

無人駕駛能否作出道德抉擇？圖片來源：pixabay

AI技術的興起促成了近年來無人駕駛的發展，但是其優越性並不足以掩蓋其弊端——駕駛過程難以作出道德判斷。無人駕駛如何在行駛過程作出更符合道德的抉擇？答案還是需要問問人類自己。

撰文 | George Musser

翻譯 | 甘立

審校 | 楊心舟

2014年，在美國紐約州伊薩卡的山上，一輛卡車剎車失靈，司機面臨兩難抉擇：是沖向路旁的建築工人，還是沖入旁邊的咖啡館。司機最終選擇了後者，導致咖啡店內一名侍者身亡。這是著名倫理學思想實驗——電車難題（The Trolley Problem）的現實翻版。哥倫比亞大學教授Hod Lipson和科技記者Melba Kurman在他們的著作《無人駕駛：智能汽車與未來之路》中，將其作為一個例子，闡述了自動駕駛汽車設計者必須面對的可怕困境。

檢測抉擇的「道德機器」

面對這類兩難困境，近日由麻省理工學院媒體實驗室博士後Edmond Awad領導的團隊發布了其在線遊戲化版本的實驗結果。他們將其稱為「道德機器」（Moral Machine）實驗。全球約有230萬名志願者參與其中，共模擬了近4000萬個場景。受試者需要在失控自動駕駛汽車導致的不同事故中選擇誰應倖存、誰應死亡。該實驗結果發表在2018年10月24日《自然》（Nature）雜誌上。

幸運的是，這類涉及生死的殘酷選擇在現實中十分少見，而且自動駕駛汽車總體來說更安全，使得這種兩難困境更為罕見。但是，許多哲學家和工程師都認為，自動駕駛系統在日常行車中，應該包含針對這種兩難困境的執行方案。「我認為，在現實中這個關鍵性問題每天也將多次遇到，只不過不像電車難題這麼極端。」加州理工大學哲學教授Patrick Lin說。他從事新興技術倫理學的研究，與該項實驗無關。事實上，現實生活中一些司機已經做出了類似的選擇，卻往往沒有意識到。在統計意義上講，每一次加利福尼亞式停車（司機看到停車標誌並未完全剎住車，而是低速通過該標誌）、匹茲堡式左轉（這是一種駕駛默契，即如果路口第一輛車想要左轉，在變綠燈的時候，左轉車會搶先於對面直行車先走，但這樣會給直行的行人帶來意外傷害）或者其他沒有把握的駕駛行為都有一定概率剝奪一個人的生命。

匹茲堡式左轉會給行人帶來傷害。圖片來源：Wikipedia

「道德機器」網站向用戶展示了一幅漫畫，畫的是一輛汽車沖向人行橫道上的行人。受試者可以選擇突然轉向，衝撞其他人群。另一種選擇是沖向混凝土路障，這會導致車內乘客死亡。與其他版本的電車問題不同，這是在兩組受害者之間做出直接選擇，而不需要額外想像人被傷害的方式。你有足夠的時間權衡這兩種選擇。預設的受害者在人數、年齡、性別和其他方面各不相同：可能是拄著拐杖走路的老人，推車嬰兒車的婦女，抑或是提著一袋子錢的小偷。行人也可能闖紅燈，在路上可能還會見到一輛只坐著貓狗的汽車，畢竟這是自動駕駛汽車。

這個網站在2016年6月上線，作者公布了截至2017年12月採集到的數據。這個網站主要通過口口相傳，YouTube視頻製作者PewDiePie和jacksepticeye也對網站進行了宣傳推廣。如果想比較自己和他人的決定，受試者必須填寫一份人口統計調查問卷，約50萬人選擇這樣做。其中主要是男性（男女比例為3：1）和年輕人（18歲最多）。

人類如何作出選擇？

受試者對應該採取的措施達成了廣泛共識。他們強烈傾向於優先保護人類（而非寵物）、群體（而非個人）、小孩（而非老人）、遵守交規的人（而非不守交規、橫穿馬路的人），形象光鮮的上班族（而非衣著破爛的流浪者）、女性（而非男性）、行人（而非汽車中的乘客）、慢跑者（而非身材魁梧的人）。選擇突然轉向和按原路線行駛在受試者中各佔一半——他們對是否採取轉向操作沒有偏向。「這是他們最不關心的問題。」這研究的其中一位作者、不列顛哥倫比亞大學Azim Shariff說。

如果是你，你會選擇讓哪一群體生還，過馬路的行人還是車上的乘客？圖片來源文獻

不同群體、不同國家的人只在強調他們自身屬性的情況下會出現分歧。例如，有個版本的電車難題是說，電車正朝著躺在軌道上的五人駛來。五個人和列車之前有一座天橋，你可以選擇推落一個人，掉落的人能使電車停下，從而挽救鐵軌上的人，但會導致被推落的那個人會死亡。受試者普遍選擇將男人推落，但男性受試者稍顯不願意。「不存在這樣道德尺度上的差別。例如，不存在老年人比年輕人更受青睞的情況，也不存在採取行動者比坐以待斃者更受歡迎的情況。」Shariff說，「只是對於某些國家而言，與其它更優先的道德事項相比，這些方向上的道德優先順序要低一些。」

例如，在拉丁美洲，年輕人受到最高級別的重視；而在歐洲和北美，受重視程度次之；在亞洲，受重視程度最少。但地理因素並非決定性因素。在重視年輕人的問題上，捷克人和拉美人反應程度相近，斯里蘭卡人和西歐人反應程度相近。

諸多差異影響道德抉擇

研究人員引入了其他指標來評估國家間顯現的結果差異。例如，研究人員將青年男性收入作為衡量貧富國家的標準。研究發現，來自較貧窮國家的人不太容易選擇衝撞行人；同樣地，那些貧富差距較大的國家的人傾向於保護衣著光鮮的上班族；那些來自性別平等國家的人對女性更具騎士精神，這也產生了一個奇怪的結果：在測試的兩難選擇中，全球受試者對優先保護女性的偏好已超過半數，來自性別平等國家的被試者甚至更偏向這一選項。因此，在這場測試遊戲中，性別平等的國家實際上在兩難抉擇中，恰恰反映出性別最不平等的現象。

各種條件下人類會作出不同的抉擇。圖片來源文獻

最明顯的分歧不是全世界受試者之間的分歧，而是他們和專家之間的分歧。弗吉尼亞交通研究委員會的研究科學家Noah Goodall說：「人們會提議一些不道德的行為，比如把保護狗的優先順序置於保護罪犯之上。」人們對電車困境問題（以及其他許多問題）的道德本能和在生活中並不一致。在此前的一系列研究中，Shariff和圖盧茲經濟學院的Jean-Fran?ois Bonnefon以及麻省理工學院媒體實驗室的Iyad Rahwan調查了近2000人對自動駕駛汽車的看法。

去年，德國交通部採納了一個由14名成員組成的道德委員會的建議，禁止試圖使用性別或年齡差別來解決電車困境。「我在『道德機器』實驗中看到的最大價值在於，這有助於發現需要解決分歧的關鍵領域。」Lin說。如果有時間進行反思，大多數受訪者很可能會同意專家的觀點。「至於人們在網上遊戲測試的傾向是否和現實中的表現相同，我們還不得而知。」Shariff說。

許多倫理學家比受試者更能區分是否採取行動。Lin說：「如果你必須在主動殺死別人（kill them）和被動讓別人死亡（let them die）兩種罪惡之間做出選擇，那麼後者的罪惡會稍微輕一些，這就是為什麼在電車問題上不採取行動是能被接受認可的原因。」他表示不採取行動是有局限的，如果要在一名路人和十名乘客之間該怎麼選擇？但調查參與者考慮選擇最佳實用性也同樣會有局限。在2015年的一篇論文中，Lin提到一個兩難問題：是撞一個戴頭盔的騎車人，還是撞不戴頭盔的？撞擊戴頭盔的人更有可能存活下來。但如果是否戴了頭盔決定你會不會被撞，誰還會選擇戴頭盔呢？事實上，一些騎車人已經會借口因為司機傾向去撞有頭盔的人，來給自己不戴頭盔的行為進行開脫。

道德抉擇有待時間考驗

懷疑論者反對說，整個測試過程過於簡單，沒有多大用處。Goodall說：「這些場景看似可能發生，但實際上難以成立。」它描述了一連串不可思議的故障：在步行區駕駛汽車，以高速公路速度行駛，並且剎車失靈。更糟糕的是，他們假設駕車人對事件有完備的認知並能清楚地預料到可能出現的所有後果。但通常，我們並非是在沉著的理性認知中權衡利弊、進行操作。代爾夫特理工大學研究技術倫理學的教授Aimee van Wynsberghe說：「儘管作者認同這個缺陷，但他們沒有意識到這個缺陷非常致命。」她認為自動駕駛汽車應該被限制在專用的高速公路上行駛，在那裡他們不需要進行繁瑣的道德計算。

不過，Lin認為，這個項目就同其他任何科學實驗一樣，將問題分解到本質，使其更易於處理。他說：「的確，像大多數的科學實驗一樣，這個實驗是人為設計的，但這並不能說明它是無效的。」電車問題讓人們討論了幾個有爭議的原則：不採取行動是否等同於採取行動，涉及的人數是否重要，以及某類生命體是否比其他生命體更具價值。現在，汽車公司應該好好考慮下這些權衡取捨的問題了。「他們會提前一到五年規划出這些決策。」Lin說，「即便他們真的陷入這種兩難困境，他們比真人反應的時間也多得多。」

Shariff說，「道德機器」也可以用來研究機器倫理學的其他問題，例如法院和假釋委員會用來預測累犯風險的演算法。這套系統能提供更為準確的預測，有助於降低社會整體犯罪率，減少監獄中被關押的人數。但如果這種減少在不同種族或其他類別中有明顯差異，則會打破分析預測的平等性。人們能夠接受這種妥協嗎？「我們應該優先考慮它的準確性，還是應該優先考慮平等（即使這意味著為了平等而把更多不必要的人關進監獄）？」他補充道。從定義上講，兩難困境並沒有一個簡單的解決辦法，但我們至少應該仔細考慮各種選擇，並能夠捍衛我們的選擇。

參考來源：

https://www.scientificamerican.com/article/survey-polls-the-world-should-a-self-driving-car-save-passengers-or-kids-in-the-road/

《環球科學》經典專刊回歸

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！