NVIDIA開發神經網路，欲打開自動駕駛的AI黑箱

為了使人工智慧更加有理有據，NVIDIA開發了一種用於自動駕駛還可以「劃重點」的神經網路。

圖 | 關於如何決定駕駛，NVIDIA標註了神經網路軟體聚焦的區域。

前不久《麻省理工科技評論》雜誌封面故事《人工智慧的核心秘密》提到，一些極為強大的機器學習軟體能夠實現特定功能，但是其內在的機理卻未知，即使開發者也難以給出好的解釋。鑒於此，提供內在線索解釋人工智慧如何工作將變得十分重要，類似醫學、製造行業都需要以此向公眾建立信任。

近日，NVIDIA公司推出新的自動駕駛人工智慧模式，讓我們知其然，也知其所以然。

深度學習是一種極為強大的機器學習技術，NVIDIA為其提供了完美的晶元。

與此同時，作為晶元製造商，NVIDIA也致力於開發一款演示汽車製造商如何在自動駕駛中應用深度學習的系統。汽車完全基於深度學習演算法控制，車載計算機沒有設置任何規則，僅僅將幾個攝像機獲取的情景作為輸入，與相應情景下人類駕駛行為進行匹配，便可實現自動駕駛，這的確讓人感到驚奇。目前所知只是該系統十分複雜，很難解釋其實際工作原理。

儘管如此，NVIDIA仍希望「打開」自動駕駛這個黑盒子。他們最近開發的方法將系統運行的聚焦點進行了可視化。NVIDIA研究人員為其開發的神經網路結構增添了新功能，可以亮化一些對深層神經網路有強烈影響的視頻圖像區域。結果令人矚目，神經網路關注的重點區域是道路邊緣、車道標記和停放的車輛，而這正是好的人類駕駛員所應注意到的類似事情。

NVIDIA自動駕駛汽車的首席構架師Urs Muller在博文中寫道：「其中的革新點在於，我們從來沒有直接告訴神經網路應該關注這些事情。」

雖然，該新功能還無法對神經網路機理進行完善的解釋，不過至少是一個好的開始。如Muller所說：「我不能向汽車解釋所有，但是我可以向它展示，而現在它也可以告訴我它學到的是什麼。」

一些學術研究人員也在探索此類問題。例如，懷俄明大學的Jeff Clune和華盛頓大學的Carlos Guestrin，他們已經發現了如何亮化分類系統中的圖片關鍵區域；麻省理工學院的Tommi Jaakola和Regina Barzilay正在開發提供文本片段的方法，可以幫助解釋由大量寫入數據得出的結論。

此外，長期幫助美軍開展研究的國防高級項目研究機構（DARPA）也資助了幾個類似研究，他們稱此計劃為「可解釋的人工智慧（XAI）」。

諸多研究表明，這種方法或許會變得越來越重要，因為深度學習適用於很多涉及大數據的問題，諸如醫學、金融、軍事情報等重要領域。

如果不去考慮技術細節，我們將人工智慧與人類智力做一個對比，也會覺得很有趣。我們自己做的許多事情，事實上也無法完全解釋清楚，通常會採取一些近似比喻，或者僅僅描述事情大致如何發生；而如今越來越複雜的機器學習方法，只會變得更加讓人捉摸不透，或許有一天，我們也將不得不接受這樣對人工智慧的含糊解釋。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！