解決AI SoC互連挑戰非「它」莫屬？

全文字數：1506閱讀時間：5分鐘

互連IP的可編程多播、可擴展解耦架構、無需回應發送信息模式將挑戰迎刃而解。

文｜艾檬

校對｜范蓉

圖源｜網路

某家AI SoC設計公司在進行前端設計（邏輯設計）時，第一步進行功能設計，即將SoC劃分為若干功能模塊，並決定實現這些功能將要使用的IP核。此階段將直接影響SoC內部的架構及各模塊間互動的信號及未來產品的可靠性。此時，它先找的不是IP大廠ARM、CEVA等，而是聯繫NetSpeed公司，為何找的是它？背後有什麼玄機？

互連成巨大挑戰

這一切源於AI SoC的互連需求。NetSpeed大中華區銷售總監黃啓弘認為，AI技術在安防、自動駕駛、醫療等應用中正漸入佳境，這些新興應用對處理能力提出進階需求，推動著架構發生巨大的變化，並改變著SoC的設計模式。

要知道，SoC互連結構已經成為片上通信的核心問題，將直接決定晶元的性能。如何優化SoC的互連結構，以滿足幾十甚至幾百個IP核之間通信的需要，發揮每個IP核的性能，實現高性能高效率的互連是SoC互連一直應對的挑戰。而對於新興的AI SoC來說，互連的考量只多不少。

黃啓弘具體介紹說，AI SoC架構因為需要做大量的演算法處理，無論是在訓練側和推進側都需要大量矩陣乘法，同時要求低延時，帶寬應達到TB/s級別。並且，AI系統內核數量眾多，大量採用並行架構，需要任意位置數據交換，實現快速有效的點對點通信，並支持長突發傳輸。

AI作為一個新興的技術，其對算力的「鼎力支持」也必然要求互連IP的「配合」，而以往傳統架構運行方式如採取緩存等進行數據匯流排交換的模式已然「落伍」。

Orion AI的出擊

基於業界需求，NetSpeed推出業界首款以AI為基礎的SoC晶元內部互連解決方案Orion AI。

「Orion AI架構的創新在於：一是可編程多播，是業界唯一基於廣播推送的可配置多播網路IP，可動態控制下一點到多點的傳播以提高效率；二是可擴展的解耦架構，實現模塊化、可擴展的多層堆疊架構；三是無需回應發送信息模式，協議上支持與片上網路解耦，支持無需回應傳輸與有回應傳輸；四是端到端的QoS規劃，支持虛擬化信道，控制帶寬與延遲。」 黃啓弘著重表示，「目前NetSpeed在Orion AI上已申請了130多項專利。」

因而，Orion AI的創舉將互連性能大幅提升。黃啓弘進一步指出，一方面，片上帶寬吞吐量高達萬億位元組，並具備支持數千計算引擎的底層架構，為極致性能助力。另一方面，它支持多播與廣播等先進特性，提供超寬數據通路，介面帶寬高達1024位，內部結構帶寬更高，支持1000個內核，並可支持高達4K位元組的長突發傳輸，在高效率和低延遲方面樹立了新標杆。

更值得一提的是，Orion AI提供智能設計環境，由內置AI的圖靈機器學習引擎提供支持，該引擎使用監督學習來探索和優化SoC的互連，從而可尋求最有效率方案並提供持續的設計反饋。Linley Group首席分析師Linley Gwennap提到，這是一種以AI為核心的設計方法，「就像有一位隨時在線的建築大師給出設計建議。處理器架構師可以採納圖靈的建議，然後花時間去解決SoC設計中的其他難題。」

大幅縮減開發時間

可以說，Orion AI是伴隨著AI的成長而成為新的IP需求的，而NetSpeed發現並著力解決這一挑戰，亦決定其成為全了一個全新的IP市場。

黃啓弘針對《集微網》記者的問題提到，互連IP成本佔整體AI成本的3%-10%左右 。而客戶通過採用Orion AI，在RTL階段就可進行互連設計，大幅縮減前端設計與後端設計的試錯周期，平均可節約3-4個月時間，甚至6個月時間。這在平均12-18個月晶元的設計周期中顯然十分「實在」。

而市場層面也給予了積極的回應。據悉，目前客戶已有特斯拉、英特爾、亞馬遜這般級別的大客戶，以及國內地平線機器人、寒武紀、百度以及Esperanto等領先的AI公司。黃啓弘提及，針對大客戶的需求，會對互連性提出特殊要求，因而NetSpeed會提供定製化的IP服務。

「NetSpeed提供非加密的互連IP，在授權模式和費用上都可根據中國客戶需求進行靈活調整。」顯然，黃啓弘的這番話表明了NetSpeed對於中國AI市場潛能的寄望。

NetSpeed睬准了AI互連的節點，成為AI時代的又一掘金者。在AI SoC層面還有哪些新的IP需求，如何滿足這些需求呢？，或許下一個機會就在眼前。

END

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！