AlphaGo再度來襲：英特爾和英偉達緣何應未雨綢繆？

日前，去年擊敗世界圍棋第一人李世石，由谷歌收購的DeepMind開發的圍棋AI—AlphaGo移師中國，再戰目前等級分排名世界第一的中國棋手柯潔九段，且率先拿下一局暫時領先的消息再次引發了業內對於AlphaGo的關注。那麼問題來了，AlphaGo緣何如此的「聰明」和超乎人類的思考和反應能力？

就在AlphaGo與柯潔「人機大戰」不久前，谷歌 I/O 2017 大會上，，谷歌「移動為先」向「AI優先」再次升級，其中最典型的表現之一就是更新和升級了去年I/O 2017 大會上公布的TPU（Tensor Processing Unit），一款谷歌自己高度定製化的AI（針對AI演算法，例如其自己開發的Tensor Flow深度學習架構）晶元，也是AlphaGo背後的功臣，即AlphaGo能以超人的熟練度下圍棋都要靠訓練神經網路來完成，而這又需要計算能力（硬體越強大，得到的結果越快），TPU就充當了這個角色，更重要的是藉此顯現出了在AI晶元領域相對於英特爾的CPU和英偉達GPU的優勢。何以見得？

據稱，在去年的「人機大戰」中，起初AlphaGo的硬體平台採用的是CPU + GPU，即AlphaGo的完整版本使用了40個搜索線程，運行在48顆CPU和8塊GPU上，AlphaGo的分布式版本則利用了更多的晶元，40個搜索線程運行在1202顆CPU和176顆GPU上。這個配置是和當時樊麾比賽時使用的，所以當時李世石看到AlphaGo與樊麾的對弈過程後對「人機大戰」很有信心。但是就在短短的幾個月時間，谷歌就把運行AlphaGo的硬體平台換成了TPU，之後對戰的結果是AlphaGo以絕對優勢擊敗了李世石，也就是說採用TPU之後的AlphaGo的運算速度和反應更快。究竟TPU與CPU和GPU相比到底有多大的優勢（例如性能和功耗）？

據谷歌披露的TPU相關文件顯示，其TPU 與伺服器級的英特爾Haswell CPU 和英偉達 K80 GPU 進行比較，這些硬體都在同一時期部署在同個數據中心。測試負載為基於 TensorFlow 框架的高級描述，應用於實際產品的 NN 應用程序（MLP，CNN 和 LSTM），這些應用代表了數據中心承載的95％的 NN 推理需求。儘管在一些應用上利用率很低，但 TPU 平均比當前的 GPU 或 CPU 快15～30倍，性能功耗比（TOPS/Watt）高出約 30～80 倍。此外，在 TPU 中採用 GPU 常用的 GDDR5 存儲器能使性能TPOS指標再高3倍，並將能效比指標 TOPS/Watt 提高到 GPU的70 倍，CPU的200倍。

儘管英偉達對於上述的測試表示了異議，但TPU相對於CPU和GPU存在的性能功耗比的優勢（不僅體現在AI，還有數據中心）已經成為業內的共識。值得一提的是，在剛剛舉辦谷歌 I/O 2017 大會上發布的新一代 TPU已經達到每秒 180 萬億次的浮點運算性能，超過了英偉達剛剛推出的 GPU Tesla2 V100每秒120 萬億次浮點運算的性能。那麼是什麼造就TPU如此的優勢？

簡單來說，CPU是基於完全通用的訴求，實現的通用處理架構，GPU則主要基於圖像處理的訴求，降低了一部分通用性，並針對核心邏輯做了一定的優化，是一款准通用的處理架構，以犧牲通用性為代價，在特定場合擁有比CPU快得多的處理效率。而TPU，則針對更明確的目標和處理邏輯，進行更直接的硬體優化，以徹底犧牲通用性為代價，獲得在特定場合和應用的極端效率，也就是俗話所言的「萬能工具的效率永遠比不上專用工具」，而這正好迎合了當下諸多炙手可熱的人工智慧的訓練和推理等均需要大量、快速的數據運算的需求。

到目前為止，谷歌的TPU已經應用在各種領域的應用中，例如谷歌圖像搜索（Google Image Search）、谷歌照片（Google Photo）、谷歌雲視覺API（Google Cloud Vision API）、谷歌翻譯以及AlphaGo的圍棋系統中。實際上我們上述提到的谷歌 I/O 2017 大會推出和更新的諸多AI產品和服務背後均有TPU的硬體支持。

當然，我們在此並非否認CPU和GPU在AI中的作用，例如鑒於CPU的通用性，其靈活性最大，不僅可以運行各種各樣的程序，也包括使用各種軟體庫的深度學習網路執行的學習和推理。GPU 雖然不像 CPU 那樣通用和靈活，但它在深度學習計算方面更好，因為它能夠執行學習和推理，並且不局限於單個的軟體庫。性比之下，TPU 則幾乎沒有靈活性，並且只能在 自家的TensorFlow 中效率最高，這也是為何谷歌對外聲稱TPU不對外銷售，且仍會繼續採用CPU和GPU。

但谷歌的這一做法印證一個晶元產業的發展趨勢，即在AI負載和應用所佔數據中心比重越來越大的今天和未來，像諸如谷歌、微軟、Facebook、亞馬遜、阿里巴巴、騰訊等這些數據中心晶元採購的大戶，其之前對於CPU和GPU的通用性需求可能會越來越少，而針對AI開發和應用的兼顧性能和能效的定製化晶元會越來越多，而作為通用晶元廠商的英特爾和英偉達，如何順應這一晶元產業在AI驅動下的變化和發展趨勢未雨綢繆，則關係著其在AI時代到來之時，其能否繼續滿足客戶的需求和引領產業的發展。

?

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！