「GPU陷入價格戰」谷歌雲可搶佔GPU降價40%，P100每小時不到3塊錢
谷歌雲端可搶佔GPU（最右邊一列），普遍降價40%
新智元報道
來源：Google
作者：文強
【新智元導讀】還愁用不起GPU？今天谷歌宣布雲端可搶佔GPU大幅降價，P100的價格每小時0.43美元，換算成人民幣只需2.77元。
不是每個人工作的時候都需要GPU，但對於那些需要的人來說，GPU是必不可少，越多越好。
但是，GPU很貴啊。此前谷歌、Facebook等巨頭開展了不少令人印象深刻的工作，其中不乏使用成百乃至上千GPU的例子，讓人望塵莫及。
不過，就像很多研究者預測的那樣，硬體的價格會不斷降低。今天，谷歌就宣布，他們整個GPU產品組合的可搶佔價格大幅降低，比連接到按需GPU的降低了70%。
今年早些時候，谷歌雲平台宣布，可以將你的GPU連接到谷歌雲計引擎（Google Compute Engine）和Google Kubernetes Engine上的可搶佔虛擬機（Preemptible VMs）上——谷歌雲端搶佔式虛擬機的每小時的固定費用只要0.015美元，將GPU的使用價格降低了50％。今天，這個價格再往下走了40%。
谷歌表示，搶佔式GPU（Preemptible GPUs）非常適合短期、容錯和批處理工作負載，比如機器學習（ML）和高性能計算（HPC）的客戶。使用搶佔式GPU，你可以訪問大規模GPU基礎架構，只需支付可預測的低價格，無需對容量競標。
連接到可搶佔虛擬機的GPU跟按需GPU基本相同，但有兩點重要的不同：因為是可搶佔的，計算引擎可能會停止服務，停止服務前30秒會提前給你發送警告；你最多可以使用它們24小時。
任何連接到可搶佔虛擬機實例的GPU都將被視為是可搶佔的，並將以較低的價格進行計費。
現在，谷歌雲平台提供3種GPU，可以根據你的需要選擇使用。
GPU價格為每小時費率，每個連接到虛擬機的GPU都按秒計費。列出的價格適用於美國地區。其他地區的價格可能會有不同。額外的持續使用折扣（最高30％）僅適用於不可搶佔GPU。
谷歌打起價格戰？
很多網友紛紛表示，谷歌這一大降價的背後，是對亞馬遜AWS的衝擊。
有人推測是因為谷歌推出了TPU 3.0，替換下來一大批不用的GPU。
也有人推測，是谷歌有一個新的產品要出現，降低舊產品市場的利潤率將使其他公司無法足夠盈利去投資研發並趕上自己。
總之，無論如何，這對於廣大群眾來說，是件好事。
如何使用雲端可搶佔GPU
結合自定義機器類型，具有可搶佔GPU的搶佔式虛擬機，讓你可以根據自己需要的資源構建計算堆棧，而不再需要其他資源。將可搶佔GPU連接到自定義可搶佔虛擬機（VM）中，你可以減少GPU VM的虛擬CPU或主機內存量。此外，你還可以使用可搶佔本地SSD與谷歌的可搶佔GPU進行低成本、高性能存儲選擇。
可搶佔GPU的情況
進行機器學習研究的創新者、研究人員和學者，對硬體加速基礎設施的需求非常高，可搶佔GPU具有可預測的低價格，因此兩者得到了很好的結合。
斯坦福大學助理教授Kayvon Fatahalian表示：「可搶佔GPU有助於我們的研究小組使用我們的Scanner開源平台大規模處理大型視頻集合。可預測的低成本使得單個研究生可以重複部署數百個GPU來處理基於機器學習的100,000小時電視新聞視頻分析。這個價格的下降使我們能夠以相同的預算執行兩倍的處理量。」
機器學習訓練和可搶佔式GPU
訓練ML workloads非常適合使用帶有GPU的可搶佔虛擬機。谷歌Kubernetes引擎和計算引擎的受管實例組（managed instance groups）讓你能為大型計算作業創建動態可擴展的帶GPU的可搶佔虛擬機群集。你可以使用Tensorflow的檢查點功能（checkpointing）保存和恢復工作進度。
開始使用
要開始使用Google Compute Engine中的可搶佔GPU，只需在gcloud中添加--preemptible到你的實例創建命令中，在REST API中指定scheduling.preemptible為true，或在Google Cloud Platform Console中將搶佔性設置為「On」，然後像平時一樣添加GPU就行了。
你可以使用普通的GPU配額啟動可搶佔GPU，或者，你可以申請特殊的可搶佔GPU配額（https://cloud.google.com/compute/quotas），這個配額僅適用於與可搶佔虛擬機相連的GPU。
了解更多信息：
https://cloud.google.com/compute/docs/gpus/#preemptible_with_gpu
Kubernetes引擎GPU文檔：
https://cloud.google.com/kubernetes-engine/docs/concepts/gpus
TAG:新智元 |