依圖「求索」晶元有多強？解讀四大核心優勢，還原造芯心法！

智東西（公眾號：zhidxcom）

文 | 心緣

智東西5月9日報道，今天上午，依圖科技在上海舉辦了一場相當不同於往的產品發布會。

這次依圖發布的不是人臉識別，也不是語音識別，而是一款雲端深度學習推理定製化SoC晶元——依圖晶元questcore，中文名「求索」！

這款晶元從即日起正式商用，另外依圖還展示了基於該晶元構建的軟硬體一體化系列產品和行業解決方案。

今日，依圖聯合創始人兼CEO朱瓏第一次出現在發布會現場，他提出」演算法即晶元「的口號，並分享關於AI晶元的一些看法。

據介紹，這是全球首款深度學習雲端定製SoC晶元，已經實現量產。搭載questcore的依圖原子伺服器，將為今年11月在上海舉行的第二屆世界進口博覽會提供安保服務。

questcore的發布意味著，在人工智慧（AI）賽道上，四大計算機視覺（CV）獨角獸之一依圖經過「視覺-語音-晶元」的三連跳，已然搖身一變，成為一家產品覆蓋視覺到語音、從軟體到硬體的全能型AI公司。

依圖questcore晶元有哪些亮點？它的創新架構ManyCore又有哪些特性？這款晶元有獲得哪些助力？依圖有怎樣的造芯優勢？AI晶元發展的必然趨勢是什麼？……經過和依圖內部人員進行深度溝通，智東西將為你揭曉一個更為清晰的依圖questcore晶元版圖。

一、全球首款深度學習雲端定製SoC晶元

依圖推出其首款自研晶元questcore，中文名叫「求索」，是依圖追求「極智」的體現，由依圖科技和AI晶元初創團隊ThinkForce聯合開發。

這款深度學習雲端定製SoC晶元從設計到製造實現全面國產化，擁有自主知識產權的ManyCore架構，基於領域專用架構（Domain Specific Architecture，DSA）理念，專為計算機視覺應用而生，針對視覺領域的不同運算進行加速，適用於人臉識別、車輛檢測、視頻結構化分析、行人再識別等多種視覺推理任務。

目前questcore晶元會用在在依圖的雲端和邊緣伺服器上，與依圖的智能視覺分析軟體結合，作為軟硬體一體化的解決方案對外銷售。

在本次發布會上，依圖聯合創始人兼CEO朱瓏介紹了依圖晶元的四大設計理念：高密度、世界級AI演算法、64路視頻分析、伺服器AI晶元。

朱瓏表示，questcore晶元不是一個AI加速模塊，而是一個完整具有端到端能力的AI處理器。

作為雲端伺服器晶元，它可以獨立運行，不依賴Intel x86 CPU。雖說是為了伺服器晶元而生，questcore既支持雲端，也支持邊緣。

questcore晶元的規格參數如下：

據介紹，在實際的雲端應用場景，依圖questcore最高能提供每秒15 TOPS的視覺推理性能，最大功耗僅20W，比一個普通的電燈泡還小。

在同等功耗下，questcore的視覺推理性能是市面現有主流同類產品的2~5倍，其安防攝像頭單路功耗僅為英偉達GPU P4的30%。

朱瓏表示，依圖開發這款晶元，不是想追求英偉達那樣幾百個T的算力，而是看重高計算密度。

questcore晶元集成度高，能高效適配各類深度學習演算法，模型兼容性好，可擴展性高，支持TensorFlow、PyTorch等各類深度學習框架，無縫接入現有生態。

它還自帶網路支持模塊，支持虛擬化、容器化，將AI雲的彈性計算和調度提升一個量級。

該晶元適用於加速各類視覺推理任務，比如交通運輸、公共安全、智慧醫療和智慧零售等行業，尤其是對雲端智能視頻實時分析等應用具有強需求的企業環境。

在現場，朱瓏還特意提到近期發布的特斯拉全自動駕駛（FSD）晶元。他表示，依圖晶元與特斯拉晶元異曲同工，特斯拉從3年前開始打造，而依圖只用了2年。

朱瓏說，依圖不會自己做自動駕駛，但歡迎無人車公司來合作。

二、發布原子系列雲端伺服器和邊緣盒子

除了推出晶元，依圖還發布了基於questcore晶元的依圖原子系列雲端伺服器和面向邊緣的依圖前沿系列邊緣盒子。

依圖科技首席創新官呂昊還在現場做了插電演示，手持由一台體積與15 英寸蘋果MacBook Pro筆記本相當的依圖原子伺服器，該伺服器由4個questcore晶元組成。

依圖用200路攝像頭現場採集觀眾們的人臉，並成功進行實時人臉識別比對。

呂昊展示了伺服器的內部結構，這款伺服器遠比常規的伺服器機箱更輕薄，一隻手就能舉起。

依圖原子伺服器基於questcore打造，一台伺服器提供的算力與8張英偉達P4卡伺服器相當，而體積僅為後者的一半，功耗不到20%。

呂昊表示，一個約要2000美元的NVIDIA P4顯卡僅能支持27路攝像頭，而依圖的伺服器能帶動200路實時解碼和視頻解析，功耗不超過250W。

在進行視頻解析時，1台依圖原子伺服器（搭載4核questcore晶元，除此之外無需其他配置），與8卡英偉達T4伺服器（含雙核英特爾x86 CPU）對比，單路視頻解析功耗僅為後者的 20%，與8卡英偉達P4 伺服器（同樣含雙核英特爾x86 CPU）相比，功耗約為後者的10%。

呂昊稱，questcore晶元基本可以完成所有視覺解析，可以做肺癌診斷、兒童骨齡預測以及非常多智慧城市應用，未來有望成為擔當起非常多視覺任務的視覺中樞。

據介紹，依圖questcore構建的視頻解析系統，將原本需要 16 台機櫃的方案壓縮到1 台，使整體建設費用投入減少 50%，運維成本降低 80%。

此外，依圖原子伺服器能夠直接在雲端升級系統，不需要大規模購買或者更新已有的攝像頭、感測器等終端設備，大幅提高了現有基礎設施的利用率。

朱瓏表示，未來希望questcore晶元可以讓一萬路智能視頻解析成為標配。

三、questcore最大特點：靈活可擴展，兼顧雲與邊

questcore採用自研晶元架構，除了針對機器視覺推理運算加速，其最大特點之一就是靈活可擴展，在設計時充分考慮到了不同應用場景，能夠兼顧雲端和邊緣的視覺推理計算需求。

1、可作為伺服器晶元，也可獨立運行

SoC即System-on-Chip，中文叫「片上系統」，一般指將多個IP集成在同一個晶元上。

questcore採用定製化SoC解決方案，客戶可以根據不同的使用需求，選擇不同的配置，使得客戶能按需定製，在性能、成本、功耗、可靠性以及生命周期與適用範圍等方面都有明顯的優勢。

依圖認為，這是集成電路設計發展的必然趨勢。

此外，SoC在性能、成本、功耗、可靠性以及生命周期與適用範圍等方面都有明顯的優勢，是集成電路設計發展的必然趨勢。

與NVIDIA GPU、Google TPU和其他AI晶元公司研發的AI加速器產品相比，依圖晶元一大不同之處在於，它作為伺服器晶元可以獨立運行，不依賴Intel x86 CPU。

2、自研晶元架構，演算法團隊深度參與造芯

如今摩爾定律瀕臨物理極限，但演算法性能仍在萬倍增長。過去4年，依圖的人臉識別演算法精度提升了10萬倍。在這樣的背景下，AI正推動計算產業邁入「演算法即晶元」時代。

現有的計算機架構已經無法滿足AI對算力不斷增長的需求，領域專用架構（DSA）正成為未來計算的主流，一個開創性的例子就是針對深度神經網路（DNN）進行加速的谷歌TPU。

因此，依圖以AI為中心去思考計算，思考計算機架構。

依圖認為，在演算法即晶元的時代，好的演算法才能更高效地利用晶元架構，或者說指導晶元架構設計，同時把算力更高效地轉化為智能。

questcore基於領域專用架構（DSA，Domain Specific Architecture）理念，針對應用領域做優化處理。

對於DSA晶元而言，AI領域知識（Domain Knowledge）的理解是最重要的，包括演算法發展趨勢、實際應用場景和具體業務邏輯的洞察。

而依圖長期在視覺領域的耕耘，使其對機器視覺技術和行業有著深刻理解，從而為它打造更好的視覺AI晶元奠定基石。

依圖演算法團隊從一開始就深度參與了晶元的設計，通過自研架構，能夠在保持極低功耗的情況下，最大限度提高計算力，充分發揮依圖全球領先的智能演算法性能。

ManyCore架構高效適配各類深度學習演算法，模型兼容性好，支持TensorFlow、PyTorch、Caffe等各類深度學習框架，便於無縫接入現有生態。

據依圖介紹，該架構的最大優勢是可擴展性強，在設計時同時考慮到了雲端和邊緣深度學習推理計算的需求，能夠根據實際應用場景動態擴容。

3、僅針對INT 8數據加速，實現出色性能和功耗比的關鍵

依圖告訴智東西，考慮目前以及將來一定時間內業界對視覺分析應用的需求，這是目前性價比最高的方案。

結合依圖在視覺領域的長期實踐與研究，依圖自研了晶元架構，僅針對INT 8數據（8 位整數數據類型）進行加速，這也是questcore實現性能和功耗比呈量級提升的根本原因之一。

此前高通曾表示，到2025年，數據中心推理加速器市場可能達到170億美元。與AI訓練不同，AI推理並不需要很高的精度，INT 8甚至INT 4的低精度數據類型就足以滿足當前絕大多數的雲端智能視頻分析/視覺推理計算需求。

但是，市面上針對這一需求或者低精度數據類型推理進行加速的AI晶元選擇還較少。

4、軟硬體結合，靈活適配基礎設施

依圖晶元將與依圖智能軟體結合在一起，構成軟硬體一體化的產品或解決方案對外銷售，靈活配適客戶現有的軟硬體基礎設施。

之所以強調軟硬體一體化，依圖表示，這是因為市場上並不存在單獨能使用的軟體或者硬體，整個行業、整個生態一定是緊密結合在一起的；產品和解決方案推出以後，也僅僅只是開始，後續的運營和維護等客戶服務，也是考量產品是否能取得成功的關鍵因素。

如今依圖推出questcore晶元，既具有靈活可擴展的架構，又可單獨使用，不依賴不英特爾x86 CPU，使得基於questcore構建的產品和解決方案兼顧雲端和邊緣計算的需求。

接下來，依圖將繼續投入原創先進的AI軟體和硬體技術研發，力求為客戶和市場帶來更好的軟硬體一體化的產品和行業解決方案。

四、依圖的造芯邏輯：不是為了做晶元而做晶元

依圖是我國四大CV獨角獸之一，以世界領先的AI技術著稱，上一輪估值已達150億元。

如在美國國家標準與技術研究院（NIST）舉行的全球人臉識別權威測試（FRVT）中，依圖連續三年獲得第一名。

依圖聯合創始人兼CEO朱瓏認為AI普及的關鍵是智能密度，機器的智能要便宜，便宜的本質是密度，分兩個維度來講：

第一個是宏觀上，要從單體的智能到機器智能到群體的智能，如讓單個識別人臉的攝像頭髮展到一萬個，而且這一萬個攝像頭識別出來的世界是能夠交流的、可決策的。

第二個是在微觀上，單個計算機能夠支撐剛才所的智慧的創意要足夠的，這裡我講的是智慧算力，而不是簡單的機器的算力。

在AI演算法領域勢如破竹的依圖，為什麼要走出自己的舒適區，而選擇自研AI晶元這條並不好走的路呢？

依圖堅信，在沒有先例可循的智能時代，中國AI創企與世界科技巨頭站在同一起跑線上，完全有機會成為新時代的巨頭。

秉持這樣的信念，依圖在推進智能項目落地的過程中，深切感受到針對應用場景和業務邏輯定製AI晶元的必要性和迫切性，並預見軟硬體一體化是AI技術落地的必然發展方向。

依圖向智東西透露，其自研晶元的主要原因並非為了晶元的商業化，而是從場景出發，更好地發揮依圖演算法和軟體的性能，為客戶提供針對特定場景優化的性能、功耗和成本最優的一體化解決方案。

這一點與谷歌、微軟、阿里等公司的自研晶元邏輯異曲同工。

在現有計算機架構無法滿足AI對算力的需求，摩爾定律瀕臨終點，而演算法性能還在火箭式提升的大背景下，依圖早早意識到應以AI為中心來思考計算機體系結構。

他們堅信，在新的這一輪體系結構革命中，演算法和晶元兩者緊密耦合，不可分離，只有懂演算法的AI公司才能做出更好的AI晶元，才能將算力更高效地轉化為智能。

任何一個新技術要實現大規模推廣，基本前提是將價格/成本降低到絕大多數人都能用的起範圍，只有這樣產品才能真正普及。

依圖希望通過研發AI晶元，能夠推動AI技術的真正落地和大範圍鋪開。

五、造芯一年半，揭秘背後的功臣

依圖的造芯計劃在2017年末就初步浮出水面。

去年12月，依圖正式對外宣布戰略投資AI晶元初創團隊熠知電子ThinkForce。正如公開資料顯示的那樣，依圖是ThinkForce的股東，也是合作夥伴。

ThinkForce是中國少有的擁有晶元研發全鏈路能力的團隊，核心成員來自 IBM、AMD、Intel、LSI、Broadcom、Cadence、ZTE 等晶元業界龍頭企業，全都擁有十年以上的晶元行業從業經歷，分別在晶元設計、體系結構、演算法研究等領域有深厚造詣，經手過40餘款不同晶元的量產，總銷售額高達數十億美元。

ThinkForce的AI晶元具備創新的異構運算架構、完整的功能模塊和先進的半導體製程工藝，可以在更短的時間內，用更低的功耗完成更大量的深度神經網路矩陣運算。

為構建友好的開發環境和健康的產業生態，ThinkForce還準備了易用的軟體工具，方便用戶完成演算法的硬體部署。

依圖演算法團隊與ThinkForce硬體團隊從一開始就緊密配合，研發出的questcore晶元能夠極大程度地發揮依圖在演算法和軟體層面的積累。

結語：軟硬體一體化成AI落地必然方向

questcore晶元的問世，不僅展現了依圖從軟體到硬體的垂直整合能力，也為國產化數據中心伺服器AI晶元增加了一種市場選擇。

隨著questcore晶元量產，依圖已成為當下技術布局最為全面的AI創企，產品陣列覆蓋計算機視覺、自然語言處理、語音識別和AI晶元，並在這些領域均保持世界領先的技術優勢。

從依圖造芯的選擇來看，在摩爾定律逼近瓶頸、通用晶元難以滿足所有需求的大環境下，針對應用場景和業務需求定製AI晶元正成為新的潮流，如谷歌TPU、百度崑崙等都選擇了這樣的道路。

與此同時，演算法與晶元的關係更加緊密，軟硬體一體化正成為AI落地的必然方向，在強手如雲、巨頭林立的AI晶元戰場中，如果一家公司既擁有紮實的AI演算法功底，又具備出色的軟硬體垂直整合能力，還能根據自身優勢和應用需求量體裁衣，將算力更經濟高效地轉化為智能，那麼無疑將對其提高產品競爭力和技術壁壘大有裨益。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！