谷歌開放TPU應對英偉達GPU挑戰

谷歌宣布將以「有限數量」向谷歌雲客戶開放張量處理器（Tensor Processing Unit，簡稱TPU）服務，按時收費，每小時成本6.50美元。

谷歌宣布張量處理單元（TPU）現在已經可以在谷歌雲平台上供研究人員和開發人員試用，該模塊是為谷歌服務（如Search、Street View、Google Photos和Google Translate）提供神經網路計算支持的定製晶元。

TPU是一個定製的特定於應用程序的集成電路（ASIC），專門為TensorFlow上的機器學習工作負載定製。谷歌兩年前推出了TPU，去年發布了第二代雲TPU。第一代TPU僅用於推理，而雲TPU則適用於推理和機器學習訓練。使用四個定製ASICs構建的雲TPU提供了一個健壯的64GB的高帶寬內存和180TFLOPS的性能。

在向公眾開放之前，谷歌已經在內部廣泛地實施了這些TPU。阿爾法狗（AlphaGo）使用48個TPU進行推斷，在圍棋遊戲中擊敗了人類冠軍。雲TPU為縮短機器學習模型的訓練時間提供了很好的解決方案。谷歌大腦（Google Brain）小組領導Jeff Dean在Twitter上發文說，雲TPU可以在24小時內將一個ResNet-50模型訓練到75%的精度。

當雲TPU發布的時候，Google為機器學習研究人員提供了1000個免費設備。Lyft是美國第二大打車公司，自去年以來，一直在其自動駕駛系統中使用雲TPU。該公司的軟體自主駕駛5級主管阿南塔·坎切拉（Anantha Kancherla）說：「自從與谷歌雲TPU合作以來，我們對他們的速度印象非常深刻——通常需要幾天時間才能完成的工作現在可能需要數小時。」

位於紐約的對沖基金雙西格瑪的首席技術官阿爾弗雷德·斯佩克特（Alfred Spector）說：「我們發現，將張量流工作負載轉移到谷歌TPUs，極大地降低了新模型的編程複雜性和訓練時間，提高了我們的生產率。」

谷歌的雲TPU目前還在測試版，僅提供有限的數量和使用。開發者可以每小時6.50美元的價格租用雲TPU，因其擁有強大的計算能力，這似乎是一個合理的價格。

Google還發布了幾個模型實現工具，以節省開發者的時間和精力為雲TPUs編寫程序，包括ResNet-50和其他流行的圖像分類模型、機器翻譯和語言建模的轉換器，以及用於對象檢測的RetinaNet。

儘管谷歌目前沒有直接向客戶銷售TPU晶元，但它們的可用性對英偉達（Nvidia）仍是一個挑戰，英偉達的GPU目前是世界上使用最多的AI加速器。甚至Google也使用了大量的英偉達GPU來提供加速的雲計算服務。然而，如果研究人員像預期的那樣從GPU切換到TPUs，這將減少Google對英偉達的依賴。

2017年，谷歌（Google）吹噓它的TPUs比當代的GPUs和CPUs快15至30倍，TOPS/Watt標準提高了30–80倍。在機器學習訓練中，雲TPU的性能（180比120TFLOPS）比Nvidia最好的GPU Tesla V100的內存容量（64GB比16GB）高4倍。

雖然現在將雲TPU譽為AI晶元冠軍還為時尚早，但它的發布讓研究者們興奮，標誌著谷歌雄心勃勃的進軍人工智慧加速器領域的開始。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！