AOGNets：首個語法生成網路，視覺識別優於當前最先進框架

【新智元導讀】神經網路結構是提高深度神經網路性能的基礎。研究人員開發出了首個通過語法引導的神經網路生成器AOGNets，它能更有效地在原始數據中提取信息，在圖像分類、目標檢測和分割方面的表現優於包括ResNets、DenseNets、ResNeXts和DualPathNets在內最先進的神經網路。

北卡羅萊納州立大學的研究人員開發了一個通過語法指導的網路生成器來打造深度神經網路的新框架。在實驗測試中，被稱為AOGNets的新網路在視覺識別任務方面優於現有的最先進的框架，包括廣泛使用的ResNet和DenseNet系統。

作為這項研究中一篇論文的作者，北卡羅萊納州立大學電子與計算機工程副教授吳田富博士說：「與我們對比過的任何一個網路相比，AOGNets都具有更好的預測精度。」 AOGNets也更容易解釋，這意味著用戶可以看到系統是如何得出結論的。」

新框架對系統架構使用了一個組合語法方法，該方法可以從以前的網路系統上獲取最佳實踐，從而更有效地從原始數據中提取有用的信息。

吳教授說：「我們發現，層次和組合語法為我們提供了一種簡單、優雅的方法來統一以前系統架構所採用的方法，據我們所知，這是第一個將語法用於網路生成的成果。」

為了測試他們的新框架，研究人員開發了AOGNets，並將其用三個圖像分類基準（CIFAR-10、CIFAR-100和ImageNet-1K）進行了測試。

「在公平比較下，AOGNets的表現明顯優於其他所有最先進的網路，包括ResNets, DenseNets, ResNeXts和DualPathNets。」 吳田富說：」利用圖像網路中的網路剖分度量，AOGNets獲得了最高的模型可解釋性分。AOGNets在對抗性防禦和平台不可知（ platform-agnostic）部署（移動vs雲）方面進一步顯示出巨大的潛力。」

研究人員還使用vanilla Mask R-CNN系統在微軟Coco基準測試中測試了AOGNets在目標檢測和實例語義分割方面的表現。

「在模型尺寸更小、推理時間相似或更短的情況下，AOGNets比ResNet和ResNeXt獲得了更好的結果。」 吳教授表示：「結果表明，在目標檢測和分割任務中，AOGNets具有較好的學習效果。」

這些測試是相關的，因為圖像分類是視覺識別的核心基礎任務之一，而ImageNet是標準的大規模分類基準。同樣，目標檢測和分割是兩個核心的高級視覺任務，而MS-COCO是最廣泛使用的基準之一。

「為了評估用於視覺識別中進行深度學習的新網路體系結構，它們是黃金試驗台。」 吳田富說道：「AOGNets是在一個有原則的語法框架下開發的，並在ImageNet和MS-COCO下都得到了顯著的改進，從而對許多實際應用中的表示學習顯示出潛在的廣泛和深刻的影響。」

吳教授說：「我們對語法指導的AOGNets框架感到興奮，並正在探索它在其他深度學習應用中的表現，如深度自然語言理解、深度生成性學習和深度強化學習。」

論文《AOGNets: 用於深度學習的複合語法體系結構》將於6月16日至20日在加州長灘舉行的IEEE計算機視覺和模式識別會議上發表。論文的第一作者是Xilai Li，一名北卡羅萊納州立大學的博士生。這篇論文是由一位獨立研究員Xi Song共同撰寫。

參考來源：

https://techxplore.com/news/2019-05-framework-deep-neural-networks.html

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！