破解黑盒？谷歌讓你理解機器如何「思考」

最新 03-07

AiTechYun

編輯：xiaoshan

在2015年，谷歌曾嘗試去想像神經網路如何理解產生了迷幻圖像的圖像。不久之後，谷歌把其代碼開源為「DeepDream」，它發展成為一個小型的藝術運動，產生各種神奇的東西。但谷歌也繼續了DeepDream背後的研究，試圖解決深度學習中最令人興奮的問題之一:神經網路是如何做到這樣的?

DeepDream地址：https://research.googleblog.com/2015/07/deepdream-code-example-for-visualizing.html

去年，在網路期刊《Distill》中，谷歌演示了這些相同的技術如何在網路中展示單個神經元的功能，而不是像DeepDream一樣「對網路感興趣」。這讓谷歌的技術人員可以看到網路中央的神經元是如何檢測各種事物的——按鈕、布片、建築物——以及如何在網路層上建立起越來越複雜的結構。

GoogLeNet中神經元的可視化。更高層次的神經元代表更高層次的思想。

雖然可視化神經元是令人興奮的，但谷歌卻忽略了一些重要的事情:這些神經元是如何連接到設神經網路的實際操作呢?

今天，谷歌發布了「The Building Blocks of Interpretability」，這是一篇全新的文章，探討了特徵可視化如何與其他解釋性技術結合在一起，以了解神經網路如何做出決策。谷歌證明了這些組合可以讓谷歌「站在神經網路的角度」，並理解在這一點上做出的一些決定，以及它們如何影響最終的輸出。例如，谷歌技術人員可以看到神經網路如何檢測到一個毛茸茸的耳朵，然後增加了圖像是「拉布拉多尋回犬」或「小獵犬」的概率。

谷歌探索了解神經元在網路中激活的技術。正常情況下，如果問哪些神經元被激活，就會得到一些毫無意義的東西，比如「神經元538被觸發了」，這對專家來說並不是很有幫助。谷歌技術通過給每個神經元添加視覺效果，使其對人類更有意義，因此谷歌技術人員可以看到像「毛茸茸的耳朵探測器被激活」之類的東西。這是一種神經網路的核磁共振成像。

谷歌的該項技術還可以縮小和顯示整個圖像是如何在不同的層「感知」的。這能夠讓技術人員真正看到從網路中檢測到的非常簡單的邊緣組合，到豐富的紋理和三維結構，到高級結構如耳朵，鼻子，頭部和腿的過渡。

這些見解本身令人興奮，但是當谷歌將它們與神經網路的最終決策聯繫起來時，它們變得更加令人興奮。因此，最終不僅可以看到神經網路檢測到的毛茸茸的耳朵，也可以看到如何增加圖像是拉布拉多尋回犬的可能性。