如何知道機器人要造反？裝上「道德黑匣子」

在一些科幻作品當中，經常會出現一些機器人反攻製造者的劇情。而在現實生活當中，也有人擔心機器人技術越發達，對人類的威脅越大。針對這種擔憂，目前學者們提出了一種「道德黑匣子」的設備，旨在捕獲機器人的道德行為，並允許專家通過黑匣子來分析機器人在一些事故中出現的問題。

剛剛結束的薩里大學第 18 屆年度自助機器人系統大會上，各學者聚集一堂共同討論機器人技術的未來。考慮到目前機器人越來越普及，超越了以往有限的工業用途，甚至連自駕車和自動化助手的興起以及到安保人員，在我們的生活中跟機器人的接觸越來越密切。在討論大會上，一個學者團認為，改進機器人的安全措施變得比以往更加迫切。根據《衛報》消息，牛津大學計算機教授 Alan Winfield 和 Marina Jirotka 在這次會議中提交了一份關於機器人「道德黑匣子」的論文。

布里斯托爾英格蘭西部大學機器人倫理學教授溫菲爾德博士說：「在現實生活中，人類在與機器人共事的時候都會存在一些事故的風險，這些都是沒有辦法避免的，對於嚴重事故，我們必須要進行調查。但是如果一名事故調查人員並沒有任何內部數據記錄當時機器人的行為，那麼這種調查將會變得非常棘手。」學者團隊認為，在機器人內部裝上類似於飛機」黑匣子「的裝置，在發生事故的時候「道德黑匣子」可以記錄機器人當時的決定以及機器人做出此行動的原因，同時「道德黑匣子」還可以通過相機或者其他感測器來獲得更多方面相關信息。

前幾天有報道稱 Knightscope 公司的安全機器人 Steve  似乎自己終結了自己的生命，跳水自盡，雖然這件事情更多情況下是一則趣聞，但對於機器人事故調查，似乎並沒有一個具體準確的說法。不過如果 Steve 裝上了所謂的「道德黑盒子」，或許我們就會對它「輕生」的原因有所了解了。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！