加速智慧未來 寶德新型AI推理系統亮相BenchCouncil 2019

「人工智慧就是一場馬拉松，現在離終點還很遠。」6月27-29日期間，在深圳麒麟山莊舉辦的2019 年國際智能計算機大會（BenchCouncil 2019）上，寶德計算機總經理馬竹茂用這句話形容當今AI所處的階段。當然「還很遠」不等於不努力，未來AI將是傳統企業轉型的重要方向。事實上，在伺服器市場，AI計算力對硬體基礎架構的需求已經足以證明這一點。

寶德計算機總經理馬竹茂

大會上，深圳市寶德計算機系統有限公司攜手英特爾（中國）有限公司發布了智能計算新品——新型AI推理系統，正式宣布2019年智能計算系統全面升級。此次推出的新品基於支持加速INT8推理的英特爾深度學習加速技術——矢量神經網路指令集的第二代英特爾至強可擴展處理器的寶德AI推理伺服器，大幅加速了人工智慧的推理負載，性能整整提升3倍。

過去一年，企業在人工智慧領域的平均投資達到500萬美元，超過70%的企業客戶宣稱正在組織內部使用AI技術。考慮到部署成本，多數企業在智能化初期會選擇外部方案。隨著AI與業務結合逐級深入，企業關注的重點也從提升效率滲透到流程決策管理層面。也就是說，AI不再是簡單的工具，而是開始向生產力轉變。

這一趨勢在互聯網企業的應用場景中仍未明顯，要知道在傳統伺服器市場增長趨於平緩之時，基於AI衍生出的業務需求成為了新的推動力，而這部分需求的提出者或者說主要採購者，就是互聯網企業。區別於以往的標準化伺服器，場景化、定製化的細分業務正在貢獻更強的增長性。

IDC在《2018年中國AI基礎架構市場調查報告》中指出，2018年中國AI基礎架構市場銷售額同比增幅升至132%，整體銷售額達到13.18億美元。其中，GPU伺服器繼續保持高速增長，銷售額同比增長131.2%，仍然是AI基礎架構領域的主流，銷售額佔比達到99%。在AI基礎架構排名前五的行業中，互聯網佔據了超過60%的市場份額。此外，各種城市大腦等智慧城市巨系統解決方案也在推動著政務、公共服務等領域，在加持AI能力後朝向智慧化邁進。

馬竹茂談到：「我們的新型系統能夠基於所有的框架，為諸如圖像和語音識別、自然語言處理、神經機器翻譯、視覺搜索、情感分析、推薦系統和個性化建議等各種人工智慧工作負載提供快速且高效的推理運算。」如今，單系統已經可以提供更高密度、更高性能的AI基礎架構，以應對深度學習在線上推理場景中對大規模數據處理的要求。

過去20年，英特爾與寶德保持了緊密的合作關係，並且把一系列的計算、網路、存儲、軟體等技術創新融合到了寶德的新產品上。第二代英特爾至強可擴展處理器最高配置56核心112線程，使用英特爾睿頻加速技術2.0，且提供內存子系統增強功能，支持傲騰數據中心級持久內存單條512GB，以及單條插槽最高性能至2933 MT/s 16Gb顆粒的DDR4內存。值得一提的是，第二代至強可擴展處理器在AI性能上表現提升顯著。

在Cascade Lake中，英特爾通過VNNI指令集的加入將第二代至強可擴展處理器的推理性能提升了數倍。框架層面，英特爾針對TensorFlow、Caffe、PyTorch、Paddle Paddle等幾乎所有的主流DL框架都進行了優化支持，開發者只需在英特爾的底層硬體上直接調用指令就能獲得最佳體驗。例如在INT8上，加入VNNI提高了其數據類型的乘-加-累加運算的吞吐量，而且有助於提高深度神經網路中使用的低精度卷積和矩陣-矩陣乘法運算的性能。有了這種硬體加速支持，低精度推理能增加每秒計算的運算數，降低對內存訪問的要求，提高緩存利用率，增大吞吐量和降低延遲。

這種優勢自然也延續到了寶德的AI推理伺服器上。「我們和寶德把這些所有的新技術，在寶德的伺服器做了統一的設計，並且進行了驗證和優化，希望這款產品可以掀起AI市場的新高潮。」英特爾中國有限公司中國區技術銷售總經理Gary Gao說。

英特爾中國區技術銷售總經理Gary Gao

經過20年的潛心修鍊，寶德已成長為一家員工規模超過700人、銷售額突破30億的企業，產品線覆蓋伺服器、雲計算、雲一體機、大數據一體機、存儲、行業解決方案等領域，並且在AI推理、加速計算、自研產品等伺服器細分市場成果卓著。在整體伺服器市場份額的佔比上，寶德伺服器已經排到中國TOP5、全球TOP9。

寶德計算機產品總監黃文傑表示，AI伺服器市場在過去兩年經歷了高速發展的階段，複合增長率達到27%，而寶德AI伺服器的增長數字超過200%（2017年增長450%，2018年增長300%）。寶德的AI伺服器產品主要包括推理伺服器（PR2710P、PR2715P、PR2750P等）、2U訓練伺服器（PR290P等）、4U訓練伺服器（PR4904P、PR4908P等），此次發布的AI推理伺服器新品基於第二代至強可擴展處理器，性能比上一代產品提升多至140%。

寶德計算機總裁助理兼產品管理部總監黃文傑

寶德AI推理伺服器PR2710P介紹

在基於兩顆至強6240的測試中，寶德AI CPU推理伺服器對INT8的測試性能較上代提升了2.5-2.6倍。黃文傑透露，今日頭條、騰訊優圖、中國移動物聯網公司等合作夥伴的AI業務場景背後，都有寶德AI伺服器的堅實助力。

寶德AI推理伺服器測試報告

寶德AI推理伺服器應用案例

除了AI算力層面，寶德AI推理伺服器還採用了智能散熱系統，有效降低噪音污染，營造箱體恆溫空間，具備屏蔽防電磁輻射、抗干擾、防靜電(EMI)設計，支持降頻功能，可以在低負載時降低系統能耗。同時，還支持PDCM(能效管理器)提供自動化伺服器功耗控制，有助於以更少的資源完成更多任務。根據熱關鍵器件溫度綜合調節風扇轉速，能夠在節能的同時降低噪音並提高風扇的可靠性。

趁著人工智慧的春風，寶德AI推理系統無疑將貢獻更強勁的增長動能，而與各領域夥伴長期、穩定的合作，以及多年堅持的投入和自主研發，也會讓寶德在變幻莫測的IT市場持續提速。就像寶德伺服器創始人李瑞傑所說的，寶德與英特爾的合作已有20年的時間，這也彰顯了寶德這樣的深圳民營企業的合作態度和風格，「我們會把合作很好的延續下去，共同服務好客戶。」

調查區域：企業小調查(點擊預覽可查看效果)

(7216626)

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！