清華大學Thinker團隊在VLSI 2018發表兩款極低功耗AI晶元
6 月 18 日至 22 日，2018 國際超大規模集成電路研討會（2018 Symposia on VLSI Technology and Circuits，簡稱 VLSI）在美國檀香山召開。VLSI 國際研討會始於 1987 年，是全球先進半導體與集成電路領域的頂級會議，與 ISSCC 和 IEDM 並稱微電子技術領域的「奧林匹克盛會」。
清華大學 Thinker 團隊在此次會議上發表了兩款極低功耗 AI 晶元（Thinker-II 和 Thinker-S）的相關論文，分別在「機器學習處理器」分會場（C4）和「機器人與機器學習應用」分會場（C13）進行了報告。此外，Thinker-S 晶元受邀在大會的 DEMO Session 進行了現場演示。論文作者包括：尹首一，歐陽鵬，楊建勛、鄭時軒、陸天翼、宋丹丹、李秀冬、劉雷波、魏少軍等。
1.Shouyi Yin, Peng Ouyang, Jianxun Yang, Tianyi Lu, Xiudong Li, Leibo Liu, Shaojun Wei, An ultra-high energy-efficient reconfigurable processor for deep neural networks with binary/ternary weights in 28nm CMOS, Symposia on VLSI Technology and Circuits, Honolulu, USA, 2018.
Thinker-II 晶元報告現場
2.Shouyi Yin, Peng Ouyang, Shixuan Zheng, Dandan Song, Xiudong Li, Leibo Liu, Shaojun Wei, A 141 uW, 2.46 pJ/Neuron Binarized Convolutional Neural Network based Self-learning Speech Recognition Processor in 28nm CMOS, Symposia on VLSI Technology and Circuits, Honolulu, USA, 2018.
Thinker-S 晶元報告現場
一、研究背景
近年來，深度學習的突破性發展帶動了機器視覺、語音識別以及自然語言處理等領域的進步，引起了學術界和工業界極大的開發熱情和研究興趣。然而，由於深度神經網路巨大的存儲開銷和計算需求，功耗成為 Deploy AI Everywhere 的主要障礙，人工智慧演算法在移動設備、可穿戴設備和 IoT 設備中的廣泛應用受到了制約。
二、架構創新
為克服上述瓶頸，清華大學 Thinker 團隊對神經網路低位寬量化方法、計算架構和電路實現進行了系統研究，提出了支持低位寬網路高能效計算的可重構架構，設計了神經網路通用計算晶元 Thinker-II 和語音識別晶元 Thinker-S。Thinker-II 晶元運行在 200MHz 時，其功耗僅為 10 毫瓦；Thinker-S 晶元的最低功耗達到 141 微瓦，其峰值能效達到 90TOPs/W。這兩款晶元有望在電池供電設備和自供能 IoT 設備中廣泛應用。
Thinker-Ⅱ晶元中設計了兩種二值/三值卷積優化計算方法及硬體架構，大幅降低了演算法複雜度、有效去除了冗餘計算。此外，針對由稀疏化帶來的負載不均衡問題，設計了層次化均衡調度機制，通過軟硬體協同的兩級任務調度，有效提升了資源利用率。Thinker-II 晶元採用 28nm 工藝，通過架構和電路級重構，支持神經網路通用計算。
Thinker-II 晶元總體架構
Thinker-S 晶元中設計了一種基於二值卷積神經網路和用戶自適應的語音識別框架，同時利用語音信號處理的特點，提出了時域數據復用、近似計算和權值規整化等優化技術，大幅度優化了神經網路推理計算。Thinker-S 晶元採用 28nm 工藝，單次推理計算中每個神經元上消耗的能量最低僅為 2.46 皮焦。
Thinker-S 晶元總體架構
三、成果展示
Thinker-II 演示系統
Thinker-S 在 VLSI 2018 大會現場演示
四、總結
清華大學 Thinker 團隊近年來設計了 Thinker 系列人工智慧晶元，相關成果相繼發表在 VLSI Symposia、ISCA、IEEE JSSC 等頂尖學術會議和期刊上，受到了學術界和工業界的廣泛關注。此次的研究成果，專註於滿足移動設備、嵌入式設備以及物聯網中人工智慧計算需求，有望在電池供電以及自供能智能設備中獲得廣泛應用，向著 Deploy AI everywhere 的目標更進一步。
TAG:AI科技評論 |