無人駕駛的困境
在什麼情況下你的無人駕駛汽車會選擇犧牲你？
設想一下，一輛無人駕駛汽車正沖向五個行人。它可以沿著原定的路線撞死這五個行人，或者，轉彎撞向旁邊的水泥牆而讓它的乘客喪命。在本期刊物（指2016年6月24日出版的《科學》雜誌第352卷第6293期，譯者注）的1573頁，Bonnefon和其他人通過一系列精巧的調查設計來研究這一社會困境。調查的結果是，人們通常都贊同通過程序設定讓汽車對人的總體傷害降到最低，哪怕是要以犧牲乘客的生命為代價。但是，對於這種「效益主義（也稱「功利主義」）汽車，即根據程序設定，在一定的緊急狀況下會選擇犧牲乘客生命而換取更大的社會利益的無人駕駛車輛，接受調查的人自己通常卻也不太樂意乘坐。
這樣的困境產生的可能性很小，但是一旦上百萬的無人駕駛車輛行駛在路上，那麼不太可能就變成了很有可能，甚至是必然發生。而且，哪怕這樣的事情永遠不會發生，無人駕駛車輛的程序中也必然要對此種狀況作出應對設定。該如何設定？由誰來設定？
調查中Bonnefon他們發現了很多有趣的變化，比如當有家庭成員在車上或者犧牲乘客可以挽救的生命持續增加時，人們的觀點會如何發生變化。顯而易見，如果有親人在車上，那麼人們對於作出效益主義的犧牲是更加不情願的；而當這種利他的犧牲可以挽救的人數越來越大時，他們的心情也會跟著好很多。雖然有這些變化，但爭議始終很大。產生不同觀點的一個主要的決定性因素在於問題是關於無人駕駛汽車本身還是關於乘坐無人駕駛汽車。
根據這一發現，作者們提出相應的策略及其面臨的困難。具有諷刺意味的是，他們指出，對於效益主義政策的制訂者來說，最好的策略就是放棄效益主義設計。無人駕駛汽車的設計目的之一是極大減少交通事故造成的傷亡。如果無人駕駛汽車確實能做到極大減少交通事故，但是效益主義設計又不被廣泛接受的話，推進效益主義設計的無人駕駛汽車反而可能會影響到總體安全的無人駕駛汽車的推廣應用。
但是作者們也承認，隨著各個國家和地區通過不同的政策進行試驗，人們對於效益主義汽車的態度也有可能改變。人們或許會接受效益主義的無人駕駛汽車，就好像一些歐洲人已經習慣了「選擇退出式」器官捐獻計劃，而澳大利亞人也逐漸適應了更嚴格的槍支法律。同樣，如果我們再次思考我們的交通運輸系統，我們的觀點也有可能改變。當今社會，車輛被視作個人財產，被自己的汽車殺死似乎是一種背叛，需要盡一切可能避免。但是當無人駕駛汽車進入社會，汽車的私人擁有率或許將會下降，因為人們會對自己花錢買來的車大部分時間都只能停著而感到厭倦。未來社會的汽車可能會是一個巨大的公共交通系統中的可以互相交換的部分，就好像現在地鐵里的一節節車廂。如果我們的思路從個人駕駛工具轉向公共交通系統，人們可能會更傾向於整體安全性的最大化的體系。
在實驗中，Bonnefon等人假定無人駕駛汽車的緊急狀態演算法是公開的，而且其可預見結果也是透明的。但現實中並不需要這樣。實際上，對於無人駕駛汽車的道德倫理我們面臨的最迫切的問題就是透明性。生與死的抉擇讓人無奈，但是無論無人駕駛汽車採用哪一種道德準則，必然都會受到公眾的公開質疑，這也就使得製造商們不情願公布操作準則。如果無人駕駛汽車有可能會選擇殺死它的乘客，那麼其製造商必然會遭到批評。如果無人駕駛汽車以其乘客利益至上，那麼其製造商必然會因為輕視他人的生命和蓄意選擇更大的傷害而同樣遭到批評。面對如何滿足公眾的這種道德上的相互矛盾，無人駕駛汽車的製造商和監管層將會陷入兩難境地。
和政治家、哲學家和固執己見的大叔們不同，軟體工程師們沒有時間閑扯。他們不可能乞求他們的機器去尊重人們的權利，品德高尚，或者尋求公正，至少在我們的道德理論或者訓練標準已經足夠精確到可以確定人們可以享有什麼樣的權利、需要什麼樣的美德以及什麼樣的權衡是公正的之前，他們做不到。我們可以設定程序，讓無人駕駛汽車將傷害減到最少，但是很顯然，這不會讓我們百分之百地感到滿意。
Bonnefon等人從另外一個方面向我們展示了無人駕駛汽車要與我們的道德情感一致是多麼困難。這是一個技術難題，但更是一個哲學難題。在把我們的價值觀加諸於機器之前，我們需要首先弄清楚如何讓我們的價值觀明確而且一貫。對於21世紀的道德哲學家們來說，這或許是他們真正需要解決的問題。
作者：Joshua D. Greene
翻譯：心止即岸
TAG:知識百科 |