企業級伺服器業務下滑，機器學習能有效解救嗎？

隨著英偉達不斷推出Tesla V100 GPU產品，多家知名伺服器製造商業推出相應搭載的企業級伺服器。但出現的一個很大的問題是，隨著企業越來越多轉向雲，這些為機器學習而設計的伺服器真的可以阻止企業伺服器業務的下滑嗎?最近推出用於IoT的硬化工業伺服器可能都在表達一個信息：伺服器製造商正在尋求在垂直市場的增長突破。

將企業工作負載轉移到亞馬遜、谷歌、IBM和其他託管基礎設施方面是可以理解的，按需資源的可伸縮性、雲規模的運營效率和安全性是其中的三個原因。例如，谷歌有90名工程師正在進行的是大多數企業人員不足的安全防範工作。

上個季度，除戴爾外，每個企業伺服器公司的收入都有所下降。伺服器業務正在增長，卻不在企業級領域。雲供應商並沒有購買太多，相反，他們購買了根據其規範構建的組件，並為其龐大的24X7工作負載優化了基礎架構。谷歌、Facebook、IBM和其他雲服務商，通過由Facebook創建的開放計算項目開展工程並指定新的硬體組件。這意味著雲供應商將直接從伺服器廠商的供應鏈購買。前幾季度的下降表明，這將會是一個難以扭轉的長期趨勢。

企業級機器學習市場還很年輕，但是這些伺服器的利潤將會很高。為企業創新者的機器學習工作負載提供經GPU優化的伺服器將是有利可圖的。隨著行業的成熟，及早獲得市場份額對企業來說很重要。

英偉達與英特爾

英偉達是機器學習和人工智慧界的英特爾。在英偉達的Volta架構上，還借鑒了英特爾的劇本。英特爾在PC和伺服器平台獲得了主導地位，通過為其他組件生產商如內存、硬碟開放標準介面，為系統製造商如戴爾、聯想提供參考規範，以及為許多小型製造商設計系統幫助其優化PC和伺服器的性能及價格。

看看Volta架構白皮書，英偉達與英特爾採取的方法十分相似，但是有一個不同的用例：神經網路。用神經網路應用計算資源來解決具有非常大矩陣的機器學習線性代數問題，迭代以做出準確的統計決策。神經網路是計算密集型的，因為它們需要多次更新數百萬個參數，以最小化誤差併產生準確的模型。這些更新基本上是大型矩陣乘法運算。

雖然有許多不同類型的機器學習和AI，但是大多數應用機器學習是受到監督的。監督意味著用標記的數據集來訓練機器學習模型。

機器學習是一種實證科學。工程師需要多次迭代才能學習如何訓練神經網路來了解一個新的用例。即使是最有經驗的機器學習專家也不能肯定地說，到底需要多少的矢量來訓練一個模型。這意味著大量的實驗可以為新的用例創建一個模型，然後再進行優化以適應具有ROI的計算預算。

如今，大多數機器學習模式，都是從自然語言或圖像識別等學術界開始，由谷歌、Facebook、IBM和微軟的大型精湛的研究人員和工程團隊進一步研究。但這些問題與企業的用例、搜索排名、圖像和對象識別等相匹配，這些問題常常是開源的，可供企業使用，但可能不適用於企業用例。企業機器學習專家和數據科學家將不得不從頭開始研究，并迭代構建新的高精度模型。

英偉達的Volta架構

Volta架構包括許多在超級計算機中使用的特性，用於加速計算並優化以前的CPU和現在的GPU、內存和互連帶寬。

·Volta架構使用流式多處理器進行深度學習，以混合計算和定址計算進行優化調整，並行處理通過並行線程之間的細粒度同步和協作得到改進。連接的L1數據緩存和共享內存可以顯著提高性能並簡化編程。

·它具有更高帶寬實現高速互連。多GPU系統之間的更多連接增加了可擴展性和並行性。

·內存子系統使用三星HBM2內存快速存儲器提供900 GB /秒的峰值內存帶寬，可以使用高達95%的內存帶寬利用率運行許多工作負載。

·多進程服務提高了共享GPU的多個計算應用程序的性能、隔離性和服務質量。在多GPU應用程序中，獲取接近GPU的數據執行指令的速度性能。統一的內存和地址轉換服務將內存頁面遷移到最頻繁訪問它們的處理器，從而提高處理器之間共享的內存範圍的效率。

英偉達已經為其企業伺服器合作夥伴設計了一個架構，用於向致力於機器學習的企業銷售伺服器產品。這是一個特殊業務，因為企業需要四種特性：大量的培訓數據，高技能的數據科學家和機器學習專家，機器學習可以解決的一個戰略問題，以及不使用雲服務的理由。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！