雲天勵飛IPU成功流片，比特大陸第二代AI晶元曝光！

隨著人工智慧市場的火爆，越來越多的晶元廠商開始推出AI晶元，與此同時很多AI演算法廠商也開始紛紛推出自己的AI晶元。一時間AI晶元已成為當下最為市場最為關注的焦點。

早在去年11月，礦機晶元廠商比特大陸就推出了自己的首款人工智慧晶元BM1680；今年年初，國內的聲紋識別廠商Speakin也曝光了自己的即將推出的聲紋識別模組；今年4月，國內的人臉識別廠商雲天勵飛也確認將會在年內推出自己的AI晶元；5月16日，雲知聲發布首款面向物聯網領域的AI系列晶元UniOne以及第一代晶元「雨燕」；5月24日，出門問問發布旗下首款AI語音晶元模組問芯Mobvoi A1；7月2日，Rokid發布旗下AI語音專用SoC晶元KAMINO18；而在同一時間，語音識別廠商思必馳CEO高始興也確認公司正在打造AI語音ASIC晶元，預計今年下半年流片。

近日，雲天勵飛首款自主知識產權的AI晶元IPU已成功流片。與此同時，比特大陸的第二代AI晶元BM1682正式曝光。下面我們來看詳細介紹：

雲天勵飛自主產權AI晶元IPU已於16日流片

今年4月25日，在雲天勵飛召開的晶元專題媒體溝通會上，雲天勵飛聯合創始人、CEO陳寧提到，雲天勵飛正在研發的一款面向嵌入式端的邊緣人工智慧晶元IPU (inteligence processor unit)已取得階段性成果，計劃今年年中流片，明年上半年正式商用。時隔僅不到4個月之後，8月16日，雲天勵飛的IPU已成功流片。

雲天勵飛IPU聚焦嵌入式視覺智能終端

據介紹，雲天勵飛AI晶元的技術路線是通過設計一系列面向多層神經網路的可編程處理器，應對人工智慧演算法的快速迭代。「我們首創的『自適應雲+端』AI系統架構，可通過雲端邏輯控制終端晶元，自動更新終端晶元的演算法和功能。」據云天勵飛聯合創始人、CEO陳寧介紹，雲天勵飛自主研發的專用深度學習神經網路處理器晶元，採用ASIP設計思路，提供ASIC級別高性能和低功耗，也能提供處理器級別的指令集靈活性。同時，採用異構計算多核SOC架構，集成多處理器單元，並行分散式處理與集中控制系統。

與傳統晶元迭代速度相比，AI晶元迭代更快。「目前來說，演算法每半個月迭代一次，AI晶元則要同步迭代，而傳統晶元的迭代是按年計算。現有的CPU或GPU無法滿足嵌入式端視覺AI應用。」據云天勵飛研發副總李愛軍表示，通用CPU在神經網路加速上速度慢，性能上滿足不了對嵌入式端的需求；GPU性能是夠的，但功耗高、成本居高不下。「所以，我們覺得有必要去研究適應新型神經網路的深度學習處理器架構晶元。」而雲天勵飛研發的晶元是面向嵌入式端的邊緣計算人工智慧晶元，專註智能視覺，聚焦在安防、智能商業等領域的場景應用。

擁有國內頂尖ASIP矢量處理器晶元設計團隊

「雲天勵飛做晶元不是臨時起意，而是從公司創立之初就開始了晶元的布局。」據陳寧介紹，雲天勵飛早在2014年就有了完整的「機器學習與視覺智能處理器」AI晶元解決方案，並獲得2015年深圳孔雀團隊第一名。

在當時，雲天勵飛的晶元研發團隊是國內AI晶元界唯一有晶元商用經驗的團隊，陳寧本人是中國第一款商用矢量處理器晶元的設計者，而晶元團隊主導者李愛軍是原中興通訊手機晶元的研發負責人，主導研發了國內第一顆28nm手機晶元商用(2010)和國內首款LTE多模手機晶元商用。

陳寧說，「我們的晶元研發團隊是國內頂尖的ASIP矢量處理器晶元設計團隊，主要的骨幹團隊成員有豐富的矢量處理器、複雜SoC晶元設計經驗，且平均設計經驗超過10年。」

IPU具有高能低耗、可編程、可雲端升級等特點

據了解，雲天勵飛在2016年完成了第一代深度學習神經網路處理器NNP100的研製，並基於FPGA載體實現商用。

李愛軍介紹說，NNP100深度結合雲天勵飛自研深度學習演算法，與自研神經網路模型深度耦合，具有強大的運算處理能力以及靈活的模型pooling能力，設計上支持PE數量根據場景需求任意擴展和裁剪，非常靈活，同時它又具有高性能、低時延和低功耗技術優勢。

「相比之前的應用效果，採用NNP100後FPGA加速卡，計算性能相比GPU提升2倍，功耗減低5 倍，時延減低100倍。」李愛軍介紹，目前NNP100應用在雲天勵飛的DeepEye100智能盒子和DeepEye200伺服器加速卡產品上。基於NNP100的技術基礎，雲天勵飛已經在研發第二代深度學習神經網路處理器NNP200，並取得階段性成果。NNP200將集成於雲天勵飛IPU (inteligence processor unit)晶元上，並用於智能終端產品。

據介紹，雲天勵飛的視覺AI晶元具有2Tops/W的高能量效率。與Nvidia開源的nvDLA相比，相同運算力下，在很小的內存帶寬下，演算法模型效率可以提高18倍。與麒麟970相比，相同運算力下，比970的性能提高4.4倍。

「雲天的晶元除了高能低耗的優勢之外，還能實現可編程，遠程一鍵升級。晶元可同時處理多路高清視頻，此外，通過片間級聯還可進行擴展。」李愛軍說，多晶元級聯，相當於搭積木一樣，一顆一顆之間通過板級互聯進行擴展。通過級聯擴展最多可以同時處理64路視頻。

「我們採用業界領先的22nm工藝，工藝的性能、功耗、面積經過模擬、分析、比對，對比業界主流的28nm工藝，都具有一定優勢，性能提升約10%，功耗降低約15%，面積減小15%-20%。」陳寧還提到，雲天勵飛的IPU晶元計劃在今年年中實現流片，並在明年上半年推向商用，最終通過模式創新，打造一個開放賦能的晶元平台。

雲天IPU最大亮點——對場景理解更為深刻

相比傳統的晶元，AI晶元更注重「從場景到演算法，從演算法到晶元」。正因為不同於以往從硬體出發的思路，AI晶元的行業形態和商業模式正在發生著變化。目前，AI晶元的應用場景主要集中在安防、智能家居和消費電子、自動駕駛、雲計算、智慧城市等行業。

「由於目前還不存在適用於所有通用演算法的嵌入式AI晶元，確定晶元的應用場景就顯得尤為重要。」陳寧提到，過往三年，雲天勵飛深耕安防領域，最先提出了針對安防行業「雲+端」的解決方案，真正做到將AI技術落地於垂直場景。

來源：智能科技熱點

深度分析：比特大陸二代AI晶元性能躍升，專註安防視頻

近日，坊間傳聞許久的比特大陸第二代人工智慧晶元BM1682，正式出現在其官網頁面。根據比特大陸一貫神秘務實的風格，相信基於BM1682的板卡、伺服器也已經備好了。筆者在晶元行業浸淫十多年，嘗試根據比特大陸官網公布的產品白皮書，來分析一下這兩代人工智慧晶元之間的異同，嘗試談一談比特大陸在人工智慧領域的意圖和野心。

2017年第4季度，比特大陸正式推出了其人工智慧品牌算豐(SOPHON)，發布了全球首款公開發售的TPU(Tensor Processing Unit張量計算單元)晶元BM1680，專門用於人工智慧中的深度學習加速。時隔不足一年，2018年3月，比特大陸又推出其第二款TPU晶元BM1682，根據初步披露的資料顯示，BM1682是一塊專門用於圖像/視頻處理方向的人工智慧晶元。

BM1682與BM1680使用了相同的深度學習演算法的硬體加速模塊，但相比BM1680而言，BM1682具有更強大的深度學習演算法執行能力，此外BM1682還增加了視頻處理子模塊，以及適用於具體應用場景的諸多功能模塊。

下面我們對其兩者進行一個具體的對比評測：

頂層架構——BM1682定位更細分

從頂層架構可以看出，BM1680和BM1682均集成了深度學習演算法所用到的核心模塊NPUs。NPU是比特大陸自行研發的深度學習演算法硬體加速器，用於加速深度學習演算法的執行速度。

從頂層架構圖上可以看到，BM1680比BM1682額外集成了高度定製的BMDNN Chip Link Subsystem。該子模塊可以在高速SerDes上提供穩定、靈活、低延遲的鏈路。用戶可以通過該鏈路將多個BM1680晶元連接成一個統一的整體，使其協同工作，大大提高系統的運算能力。BM1682並沒有集成此模塊，這大概是基於BM1682專一化的市場應用定位，以及處理速度足夠滿足用戶對圖像/視頻處理需求而考慮的。

從頂層架構圖上可以看到與BM1680相比，BM1682晶元的整體架構發生了不小的變化，其定位則更加細分明確。從右上角增加的Video Subsystem模塊可以明確看出，該款晶元定位於圖像/視頻處理方向。

模塊細節——BM1682設計更豐富

BM1682的深度學習加速的核心功能模塊與BM1680是相同的。兩款晶元均包含了深度學習的核心單元—硬體加速器NPU Subsystem。兩者的NPU Subsystem均各自集成了64個NPU單元，統一由NPU Schedule Engine進行調度(BM1682架構圖中未體現)，最大化的提高了NPUs的效率，加快了深度學習演算法inference (推演)與training (訓練)的速度。根據初步資料顯示，兩者在MCU的配置上是有些許差異的，但由於資料不全面，故無法評斷出兩者的MCU處理能力的差別。

除了深度學習演算法硬體加速模塊(NPUs)、用於高速連接其餘BM1680的Chip Link模塊之外，BM1680還提供了4個獨立的DDR4通道，最高支持16GB的DDR3 或 DDR4 DRAM拓展，用於高速數據緩存讀取，以提高系統的執行速度。BM1680還加入了Global DMA模塊。DMA用於提供數據搬移功能，這可以在大塊數據進行讀寫搬移時不佔用MCU的資源，如在DDR4 的RAM中搬移數據時。對於大數據量的深度學習系統，DMA可以極大的提高效率。BM1680的Peripheral Subsystem 提供了UART、SPI、IIC與GPIO等介面，用於外接感測器，或與外界進行通訊、記錄、控制等操作。這些介面都屬於通用介面，可見BM1680的定位就是通用深度學習晶元，在外設上沒有給與太多支持。

從架構圖看，BM1682明顯複雜了很多。其額外增加了AP (Application Processor) Subsystem和Video Subsystem(視頻處理系統)。Video Subsystem(視頻子系統)則主要專註於視頻預處理的相關任務。

BM1682的Video Subsystem提供了2個H.264視頻解碼器，1個H.265解碼器。H.264 /H.265均為視頻編碼方式，也是比較流行的視頻編碼的兩種方式。相對而言，H.265視頻編碼比H.264具有更高的壓縮比、更強的網路糾錯適應能力，但考慮到現階段在安防、智能家居和互聯網視頻領域中仍然還是以H.264編碼的視頻和視頻設備為主，兩者2:1的解碼器數量在視頻支持類型和解碼帶寬做了一個合適的權衡。比較貼心的是，BM1682提供了Video Post-Processing功能，該子模塊用於對採用H.264或H.265編碼的視頻進行渲染處理，這些渲染處理主要包括顏色空間轉換、視頻剪裁、縮放操作、仿射變換、多幀拼接等常規操作。經過Video Post-Processing對外界進入的視頻數據進行硬體加速預處理後，Video Subsystem會將處理後數據通過匯流排傳輸給NPUs、DRAM、AP System或外接存儲設備，然後進行後續的深度學習處理等操作。

BM1682提供了豐富的外界交互介面，如高速介面PCIE、乙太網、SDIO3.0、WIFI等。BM1682將數據處理完畢後可以很方便的通過PCIE介面、乙太網介面、或者WIFI介面將數據傳輸到總伺服器。若是條件限制沒有網路接入點，用戶可以選擇通過接入SDIO3.0的eMMC存儲器或是PCIE式存儲器將數據存儲到本地存儲裝置。可見，BM1682對其可能的應用場景做了充分的考慮並給予了硬體支持，用戶可以根據需求，靈活方便的進行配置。

Peripheral Subsystem方面，BM1682比BM1680要豐富的多，這大大方便了用戶進行系統拓展，如添加額外感測器等。BM1682的外設包括2個SPI介面、4個UART介面、4個IIC、4路PWM生成器、一塊內嵌式SPI Flash、WDG、Timer、GPIO、PVT Sensor、Top Reg、Efuse、ROM。由給出的外設可以看到，BM1682的設計考慮了配置、存儲、對外界系統實時控制、以及加密保護等功能，極大提高了系統的靈活性、安全性，省卻了用戶額外添加相關功能的開發成本。

性能分析——BM1682極大提升

NPU深度學習硬體加速器是人工智慧的核心。兩者NPUs模塊集成了64個NPUs單元，通過NPU Schedule Engine進行調度。BM1682中每個NPU含有32個EUs，BM1680未知。根據BM1680、BM1682數據手冊顯示，單片BM1680單精度運算速度為2TFLops;單片BM1682單精度運算速度為3TFLops。BM1682的單片運算速度高出BM1680 50%。

BM1680單片的運行速度低於BM1682，但BM1680支持級聯工作模式，數個BM1680可以通過高速的Chip Link Subsystem組成一個集群式的系統，進行更高處理量的運算處理任務。BM1682不具備級聯功能。下圖為BM1680晶元的級聯連接示意圖。

級聯方式：每個Node代表一個BM1680

電學方面，根據兩者的數據手冊顯示：滿載工作時BM1680的TPD(Thermal Design Power熱設計功耗)為41W;：滿載工作時BM1682的TPD小於50W。從功耗角度分析，BM1680的2TFlops的NPUs速度應該是有所保留的。

開發生態——兩代晶元都很到位

BM1680、BM1682均支持的主流的CNN/RNN/DNN深度學習架構，通過這兩款TPU晶元進行硬體加速，可以極大的提高深度學習演算法的執行速度。當然，BM1680和BM1682也可以通過基礎的矩陣運算進行深度學習的模型、架構的搭建。

在開發生態方面，兩款晶元的支持也是很到位的。BM1680、BM1682均對後端用戶提供SDK;如果用戶需要進行深度優化以獲取演算法最優性能，可以聯繫廠家獲得相關教學支持。

應用領域——BM1682更專註圖像/視頻處理

由前述分析可知，BM1680為通用性人工智慧晶元，其應用方向沒有偏向性，晶元內部主要集成了深度學習演算法所需要的基本模塊，應用各種人工智慧的深度學習演算法，通過添加相應的外圍電路模塊，BM1680可以搭建成適用於任一個領域的深度學習系統——像圖片識別、自然語言處理、文本處理、金融、醫學等等大小領域均可選擇該晶元實現。BM1680更加具有靈活性。而且，BM1680可以進行級聯，所以對於需要處理巨大數據量的人工智慧深度學習系統，BM1680尤為合適。像企業級應用、海量數據處理等方面，通過簡單的級聯BM1680就可以獲取相匹配的計算能力，靈活而強大。

而BM1682則是一個升級版的BM1680並配備了專門用於視頻處理的集成系統，整個BM1682晶元搭載了視頻處理所需要的全部核心模塊，以及對其具體應用場景適應性的輔助模塊。BM1682對於需要進行圖像/視頻處理的市場應用可謂是十分便捷了。BM1682的輔助功能配置模塊自帶有線與無線網路功能，對於視頻監控方向的市場應用十分方便，無線功能更是省略了網線布線的繁瑣施工，並且可用於實現遠程監控。對於一些沒有網路的場合，如科研領域的野外視頻收集處理、閉路視頻監控等，BM1682可以輕鬆的添加外置存儲裝置進行數據備份收集。BM1682作為圖像/視頻方向深度學習的SoC片上系統，市場前景很是廣闊，這款新品還是很值得期待的。

作者 | 中國科學院微電子研究所 劍白

【芯智訊】賦能AI·用芯感知——2018生物識別技術與應用高峰論壇開啟報名！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！