顯卡廠商的好日子到頭了？Google發布TPU人工智慧伺服器晶元技術

Google今天在一篇論文中公布了Tensor人工智慧伺服器處理晶元TPU的詳細資料。TPU是一種專門為本地高效率處理人工智慧計算任務設計的伺服器晶元，Google公司從2015年就開始使用這種晶元，雖然2016年Google曾經曝光該晶元的存在，但是並未提供任何技術方面的細節信息。

在今天的全國工程師學術會議上，TPU論文的75位聯合作者之一，David Patterson就TPU的技術論文發表了演講。

Patterson指出，Google依賴TPU來完成人工智慧神經網路第二階段的計算任務。首先，在第一階段Google用大量數據訓練神經網路，這個階段的計算任務主要依靠伺服器GPU來加速，然後，Google使用TPU來更有效率地推斷新數據，Google宣稱GPU在新數據推斷方面的性能表現大大優於GPU或者x86處理器晶元。

「雖然一些應用的處理器使用率並不高，但是TPU的處理速度依然能夠比當下的GPU或CPU快上15-30倍」，Google在論文中寫道。Google所指的「當下的GPUS和CPU」，分別是Nvidia的TeslaK80和英特爾Haswell 架構Xeon E5-2699 v3這樣的「當紅炸子雞」。

過去五年，AMD和Nvidia兩大顯卡廠商憑藉人工智慧熱潮重新回到IT產業聚光燈下，而顯卡GPU也成了深度學習的默認低成本基礎設施技術，這其中Google也起到不小的推動作用。但是Google、微軟等IT巨頭從未放棄其他人工智慧晶元技術領域的探索，這其中包括用來處理多種AI工作任務的FPGA晶元技術。而TPU則是Google的原創技術，已經應用於Google圖像搜索、GoogleCloud Vision API等生產環境。

TPU處理器晶元的內存是K80這樣的GPU晶元的3.5倍，而體積卻更小，每瓦特功耗的處理性能則是GPU的30-80倍。

相比大多數IT互聯網企業，Google是人工智慧神經網路的先行者和踐行者，早在2013年Google就宣稱為了滿足不斷膨脹的人工智慧計算需求，Google需要將當時的數據中心伺服器計算力提高一倍，而如果基於通用晶元實現這一點，成本會高得難以承受，因此Google開始研發性能價格比10倍於GPU的人工智慧專用晶元。

為了提高TPU的部署效率，Google的TPU沒有選擇於CPU集成，而是以協處理器的方式直接插入PCIe匯流排，可以像GPU一樣在現有的伺服器上「即插即用」。從設計架構的角度來看，TPU更接近FPU（浮點運算協處理器）而不是GPU。