雲端AI市場需求強大，高通這個後進者能搶到多大的蛋糕？

科技 05-15

上月高通於舊金山舉辦AI Day，正式宣布進軍雲端AI市場，新產品名稱為Cloud AI 100，其他具體信息有：內建晶元為7nm製程，AI性能超過350 TOPS，相較於Snapdragon 855，AI性能有50倍以上，該產品預計在2019下半年提供樣品給客戶測試，至於其他相關技術規格，高通官方還沒有任何透露。

雖是後進者，但仍有一席之地

截至目前為止，資料中心推論加速卡的主要投入廠商，包括NVIDIA、AMD、Xilinx、Altera與寒武紀科技，如今高通也加入戰局，顯然該市場擁有相當大需求。單以資料中心的AI推論應用來看，其涵蓋的應用層面相當廣泛，象是語意識別、人臉識別、基因定序、財務金融與醫療等，再加上不同的運算精度範圍及軟體框架等，也使得資料中心的AI推論運算所需之硬體規格，必須具備一定彈性與多元能力，方有機會獲得客戶採用。

以NVIDIA推出的Tesla T4加速卡為例，儘管該產品是以Turing GPU為核心基礎，但也能滿足語意辨識等應用，不光聚焦在圖像識別等相關領域。

單以現階段市場態勢來看，先進者推出的產品已有不少獲得客戶採用，而高通的AI Day有Facebook與Microsoft等主管親自站台，所以Cloud AI 100也有很高機會獲得青睞，因此高通即便是後進者，在該市場上的表現顯然也能佔有一席之地。

Cloud AI 100架構成謎，實際性能仍待確認

高通跨足資料中心AI推論應用，推出第一款加速卡產品，但事實上，基於不同的運算精度範圍，同一晶元能提供的運算效能仍有不同。若以NVIDIA的Tesla T4來看，在INT4運算精度的情況下，性能峰值可達到260 TOPS，INT8則為130 TOPS。

考量AI運算效能，除了製程有一定的重要性外，其運算架構也是重要關鍵。儘管高通未進一步說明Cloud AI 100詳細規格，但以過去高通在AI Engine的設定，分別以CPU、GPU與DSP因應不同的運算精度範圍，加上Cloud AI 100的AI運算性能可超過350 TOPS以上，所以初步推測，Cloud AI 100可能以DSP或CPU為硬體規格的主軸，運算精度則以INT8或INT4為計算基準，但高通至今為止，仍未有INT4的相應產品線，這也是必須留意之處。

若Cloud AI 100在運算精度範圍以INT8為基準，那麼硬體架構上，高通很可能在CPU或DSP有大幅度突破，但實際真相為何，恐怕也只能等高通揭露更多細節，才能真相大白。