自動化頂會DATE主題演講：自動駕駛汽車不做價值判斷，基準線是不引發新的事故

新智元專欄

作者：常萬里

【新智元導讀】計算機設計自動化的頂級會議之一DATE日前在德累斯頓落下帷幕。本文介紹會上的兩個關於自動駕駛的主題演講，分別代表了當前開發自動駕駛汽車的兩大陣營：新技術公司和傳統汽車製造商，帶來關於人工智慧在自動駕駛中的應用、自動駕駛領域的重點研究方向等問題的觀點碰撞。

計算機設計自動化的頂級會議之一DATE上周五（3月24日）在德累斯頓落下帷幕。會上的兩個關於自動駕駛的主題演講非常精彩，吸引了廣泛關注。其中一位演講者是Amnon Shashua，Mobileye（2017年被Intel以153億美元收購）的CEO兼任CTO。另一位是大眾集團電子和汽車研發部主管Thomas Form教授。兩人分別代表了當前開發自動駕駛汽車的兩大陣營：新技術公司和傳統汽車製造商。他們談到了許多備受業界以及公眾關注的關於自動駕駛的話題。在某些問題上他們闡述了類似的觀點，而在另一些問題上則看法大相徑庭。

其中一個主要話題就是人工智慧在自動駕駛中的應用。兩家公司都投入了大量資源進行相關研究，在取得了很多成果的同時也發現了不少問題。Form教授指出深度神經網路對自動駕駛是很有幫助的，不過需要提供冗餘。例如可以安裝三個獨立系統。一個基於明確的邏輯，第二個基於模塊化人工智慧，即每個相關的功能訓練一個深度神經網路。第三個基於整體的人工智慧，即為所有相關功能訓練單一的巨大的深度神經網路。

Form教授展示了一些在大眾內部測試中出現的人工智慧無法正確識別和應對的情況。另一個問題則是針對深度神經網路故意的物理攻擊。Form教授展示了一個案例，做了少量（刻意的）修改的STOP標識牌會被深度神經網路誤認為限速標誌。

在另一個演講中，Amnon重點介紹了一個能夠在數學上保證自動駕駛決策安全的形式化方法。他也特彆強調這個方法不是由數據驅動，完全不同於依靠大量數據訓練的，系統成熟度隨著里程提高的經驗性方法。結合兩個演講來看，儘管人工智慧在很多領域已經顯示出極大的力量，在安全相關的系統中的運用仍有很多研究要做。這對於人工智慧領域的學者來說並不是一個壞消息。

新技術公司和傳統車企在開發自動駕駛汽車上採取了完全不同的路線。新技術公司做的是革命性改變，即跳過中間階段，直接開發5級自動駕駛（指全自動駕駛，參見SAE標準）。而傳統車企則是漸進式的。全自動駕駛固然令人激動，同時也意味著高成本。大眾集團更希望能夠開發出所有汽車都能承擔的系統。究竟是在某些車上實現全部功能更好，還是在所有車上實現某些功能更好，值得進一步探討。

另一個被深入討論的話題就是自動駕駛汽車需要做到多好才足夠。顯然完美的系統是不存在的。Amnon講解了他的形式化方法結合一系列規則可以確保自動駕駛汽車不會由於決策問題而產生事故並且可以在危險情況下做出正確反應。大眾集團也在考慮同樣的問題。一個能夠優於大多數司機的自動駕駛系統足夠好嗎，還是需要超過邁克爾舒馬赫？

在自動駕駛的倫理問題方面，Amnon提出了一個基準線，即他的系統不會為了躲避現在的事故而引發新的事故。自動駕駛汽車不做價值判斷。他同時也指出，這一準則可以根據不同國家的規定而改變。Form教授提出了一個問題，在自動駕駛的世界裡，如果行人不遵守交通規則怎麼辦。顯然自動駕駛汽車總是需要避讓行人。他後來又補充道，你需要特別小心，如果這台車是Uber的。

最後一點就是自動駕駛領域的重點研究方向。除了人工智慧在識別和決策方面的應用，感測器顯然還有極大的進步空間。另外一點就是目前的自動駕駛系統開發仍主要關注於功能的實現。成本控制，例如如何更高效地利用車載計算和通訊資源等等，在未來毫無疑問會受到持續關注。

作者介紹：

常萬里，慕尼黑工大博士（TUM），博士論文在2017年被評為最傑出（Summa Cum Laude）。現任教於新加坡理工大學（SIT）。新工大是一所新近成立的綜合性公立大學。主要研究方向為信息物理系統（CPS），重點關注開發更可信可認證的系統以及計算等各種嵌入式資源的高效利用。在頂級期刊和計算機頂級會議發表多篇文章，包括IEEE旗艦雜誌Proceedings of the IEEE。目前主持一項新加坡國家級科研項目。論文共同作者和合著者包括多名IEEE Fellow, ACM Fellow，美國國家工程院院士，歐洲科學院院士以及德國科學工程院院士。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！