無人駕駛汽車的道德困境：發生車禍保車主還是保路人？

如果一輛無人駕駛車被設定為傾向於殺死本車乘客，你還願意坐這輛車嗎？

近日，義大利博洛尼亞大學的團隊開發了一個名為「道德錶盤」的裝置，可以讓無人車的車主選擇自己的汽車道德設置：你可以設定為犧牲自己保全他人，也可以設定為自己的生命優先。

無人車如何應對道德困境，這是無人駕駛面臨的主要問題之一。當人類駕駛汽車時，本能就是對我們對危險的反應。當致命的事故發生時，通常不會有什麼責任糾紛。

但如果汽車要自動駕駛，汽車就不能依賴司機的本能，而必須依靠代碼。這時候就很糟糕了。是誰應該為事故負責呢？軟體工程師、製造商還是車主？

人們對這個問題的態度也很複雜。2015年的一項研究發現，大多數人認為無人駕駛的汽車應該是功利主義的，應該盡量減少總體危害的數量，這可能意味著在某些情況下犧牲自己的乘客。但是，雖然人們原則上同意這一點，但他們也表示，他們決不會乘坐準備殺死他們的汽車。

「充分利他」

義大利博洛尼亞大學的Guiseppe Contissa博士說：「我們想探討，如果將控制權和汽車行為的責任歸咎於車主，會發生什麼事情。他同時也提出了一個解決方案。

該團隊設計了一個錶盤，可以將汽車設置為從「完全利他主義」到「完全自我主義」中的任意道德維度，錶盤的最中間則是「完全中立」。他們認為，這種的道德手段不僅適用於無人車，也適用於自動化程度越來越高的所有領域。

Contissa說：「這個旋鈕可以讓無人車擁有車主本人的道德判斷。汽車將利用這些信息來計算它將執行的行動，充分考慮事故發生時乘客或他人受到傷害的可能性。」

公地悲劇

但這個想法有問題。麻省理工學院媒體實驗室的首席研究員埃德蒙·阿瓦德（Edmond Awad）說：「如果人們對汽車所造成的相對風險進行過多的控制，我們可能會遇到公地悲劇(Tragedy of the commons)，即每個人都選擇極端的自我保護模式。

另一個擔心是人們可能不願承擔道德責任，因此根本不會有人願意動那個錶盤。如果每個人都選擇「完全中立」，道德錶盤就不會對現有的困境有所幫助。

Awad說：「現在判定這個方案是好是壞還為時太早。」但他表示，新的想法總是好的。

（36氪編譯組出品，未經允許嚴禁轉載。編輯：郝鵬程）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！