AI究竟是如何做出決定的？谷歌研究員在研究

左邊是呈現給神經網路的圖像，該網路被訓練來鑒別圖像中的物體，比如辨別圖像里是否包含花瓶或者檸檬。右邊是可視化的圖像，顯示神經網路中間的一層在圖像的每個位置檢測到的東西。神經網路似乎在檢測花瓶狀圖案和檸檬狀物體。

3月8日消息，據《紐約時報》報道，所謂的神經網路大大推動了人工智慧的發展，但理解計算機如何作出決策卻十分困難。谷歌的研究人員正在學習機器是如何學習的。

機器正在開始自己學習執行任務。它們在鑒別面孔，識別口語辭彙，查看醫學掃描圖，甚至展開它們自己的對話。

原始圖像以及神經網路看到它後形成的三張可視化圖像。網路的第一層主要是檢測邊緣和顏色。其他的層開始識別更為複雜的概念，如花朵、花瓶和檸檬。

所有這些任務都是通過所謂的神經網路來完成的，這些網路屬於複雜的計算機演算法，是通過分析海量的數據來學習執行任務。但是，這些神經網路帶來了一個科學家正試圖解決的問題：判斷機器如何得出結論並不總是一件容易的事情。

周二，谷歌的一個團隊朝著解決這個問題邁出了一小步。他們所展示的新研究成果，大概描述了顯示機器如何作出它們的決策的技術。

神經元組自動學會一起表示圖像中的概念。五個神經元組似乎分別對應於花朵、花瓶口、瓶身、背景和檸檬。熱圖顯示每個神經元組在圖像上的位置。

谷歌研究員克里斯托弗·奧拉（Christopher Olah）指出，「即使只是看到機器作出決策的一部分過程，你也能夠形成很多關於它失效的潛在方式的了解。」

越來越多的AI研究人員在開發更好地理解神經網路的方法。目前供職於打車服務巨頭Uber人工智慧實驗室的美國懷俄明州立大學教授傑夫·克蘭（Jeff Clune）將這類技術稱作「人造神經科學」。

神經網路兩個不同的層上的神經元組和輸出分類。線條顯示哪些神經元組支持或抑制後面的神經元組或者輸出分類。例如，「檸檬」分類得到了一個黃色的檸檬式的組的強力支持。

理解這些系統如何運作將變得更加重要，因為它們所做的決策目前是由人類來作出的，比如誰獲得工作，自動駕駛汽車如何應對緊急情況。

神經網路概念最早在20世紀50年代被提出，它旨在模擬大腦中的神經元網路。但那只是一個粗略的類似。這些演算法真的是一連串的數學計算，每個操作都代表一個神經元。谷歌的新研究，意在以高度可視的方式展示這些數學計算是如何執行離散的任務的，如識別照片中的物體。

「花瓶」分類獲得了分別代表花、花瓶口和背景的神經元組的支持。

在神經網路內，每個神經元都會去識別照片中可能出現的特定特徵，比如從特定角度從右到左彎曲的線條，或者合併形成更大形狀的多條線條。谷歌希望提供工具來顯示每個神經元在試圖識別什麼東西，哪些神經元識別成功，以及它們的努力如何共同判斷照片中實際上有什麼——可能是小狗、燕尾服或小鳥。

奧拉表示，谷歌正在討論的這種技術可能也有助於判斷神經網路為什麼容易出錯，以及在寫情況中解釋它是如何習得這種行為的。包括克蘭在內的其他研究人員認為，該類技術還有助於最大限度地減少「對抗樣本」的威脅，比如某人可能通過篡改圖像來欺騙神經網路。

研究人員坦言，這項研究仍處於起步階段。同樣供職於Uber人工智慧實驗室的Jason Yosinski認為谷歌的技術理念「是頂級的」。 Uber的AI實驗室產生於該公司收購回來的初創公司Geometric Intelligence。不過Jason Yosinski也警告稱，理解計算機思維可能永遠都不會變容易。

「在某種程度上，隨著這些網路變得越來越複雜，要理解它們為什麼做出決策將變得極其困難，」他說道，「這有點像試圖理解人類為什麼做出某些決策。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！