為省下15個數據中心的錢 谷歌研發了一塊機器學習晶元

谷歌運營著地球上最大的計算機網路，這個網路包含四個大陸的15個數據中心。

大約在6年前，隨著谷歌在Android手機上採用了新的語音識別形式（Google Now和Google Assistant），其工程師開始擔心這個網路還不夠大。

如果世界上的每個Android手機每天都使用谷歌Voice來搜索，只需要持續搜索三分鐘，谷歌的數據中心就要再增加兩倍才能滿足需求。

這塊晶元讓他們省了15個數據中心

當時，谷歌剛剛開始使用深層神經網路、複雜的數學系統來開發語音識別服務，這使得其語音識別服務可以通過分析大量的數據來學習特定的任務。

近年來，這種機器學習形式，不但重新定義了語音識別，而且還可以用來進行圖像識別、機器翻譯、互聯網搜索等等。

用機器學習來開發這些技術，谷歌發現錯誤率下降了25%。但是機器學習需要更大的數據處理能力，也就是說谷歌需要更多的數據中心。

相比將數據中心的數量翻倍，谷歌專門研發了它自己的計算機晶元來運行深度神經網路，叫做Tensor Processing Unit，或者簡稱TPU。在TOPS/Watt測量中，TPU的性能優於標準處理器30到80倍，效率高太多了。

谷歌去年五月首次透露了這款定製機器學習晶元，但沒有提供更多細節。

現在Google資深硬體工程師Norman Jouppi和他的團隊成員發表了一篇文章，詳細說明了該項目，解釋了晶元的運行方式以及能夠解決的特殊問題。

谷歌使用該晶元僅用於執行神經網路，在某個用戶使用Android手機啟用語音來搜索的時候才會運行。事先不用訓練神經網路，因為神經網路能夠自主學習。

Jouppi說這樣可以為公司剩下許多錢，這樣谷歌就不需要再建15個數據中心了。

這塊晶元也標誌著計算機處理器世界的重大改變

由於谷歌、Facebook、微軟等互聯網巨頭使用深度神經網路構建越來越多的服務，他們都需要專門的晶元來訓練和執行AI模型。

大多數公司使用GPU來進行訓練，還有一些公司，包括微軟和百度在執行AI模型時也開始使用替代的晶元。

但是谷歌從零開始研發自己的晶元。作為一種降低成本並提高效率的方式，谷歌建立了自己的數據中心硬體，包括伺服器和網路設備。現在它已將這項工作推向別的處理器。

在此過程中，谷歌也改變了晶元市場。比如，谷歌設計自己的晶元，那就可以不用再購買別家的處理器以適應神經網路的負荷。谷歌還可以成為Facebook、亞馬遜、微軟的晶元供應商。谷歌自己打造晶元，勢必會對晶元製造商產生巨大影響，這也能逼迫英特爾等大型晶元製造商研發新的處理器。

TPU可適用於任何種類的神經網路

Jouppi曾在HP和DEC擔任硬體工程師，在2013年年底加入了谷歌。他表示，谷歌曾經考慮將它的神經網路用在可編程晶元FPGA上，FPGA是微軟正在使用的晶元。但FPGA的速度卻沒有提升多少。「我們的分析表明，FPGA不會比GPU快。」他說。

最後，該團隊轉向了定製ASIC，這是一個基於特定任務的晶元。據Jouppi介紹，由於谷歌專門為神經網路設計了晶元TPU，它可以比通過類似製造技術製造的通用晶元運行速度快15到30倍。

該晶元適用於任何種類的神經網路，包括從圖像識別中使用的神經網路到用於識別語音命令的神經網路等。

谷歌已經使用TPU晶元快兩年了，而TPU晶元除了用於圖像識別和機器翻譯，最耀眼的應用就是那個在去年打敗韓國棋手李世石的人工智慧AlphaGo了。

雖然TPU帶來了突破性進步，但這並不代表會完全淘汰CPU和GPU，目前Google同時使用TPU和GPU運行自己的神經網路。

還不錯——特別是考慮到在此過程中避免了再建數據中心的麻煩。

文章來源：賽格威機器人，轉載請註明出處。