國內最快落地應用的 DGX-1,我們採訪了 「首吃螃蟹」 的網易
2016 年 4 月,NVIDIA 在矽谷發布了深度學習超級計算機 DGX-1。這台超級計算機在 86cm x 44cm x 13cm 的空間內裝入了 8 塊 Tesla P100 GPU,其性能相當於 250 台傳統伺服器。同時 DGX-1 的售價也高達 12.9 萬美金。
從 4 月發布到 9 月開始交付,根據 NVIDIA 公布的數據,到 2016 年秋季 DGX-1 一共收到了接近 100 家公司的訂單。在美國,第一批的 DGX-1 被交付給包括 OpenAI、斯坦福 AI 實驗室、伯克利 AI 研究室等一批頂級研究機構。而在國內,第一批超級計算機也已於去年 10 月開始交付。
3 個月後,雷鋒網採訪了負責網易在人工智慧等前沿領域研究的網易感知與智能中心總經理李曉燕。據說在過去 3 個月里,這裡也是國內最快開展 DGX-1 應用的機構。李曉燕告訴我們,這台 DGX-1 在 2016 年 10 月中下旬交貨,只用半天時間就部署完畢了。在之後的時間裡,這台機器主要被用在深度學習的模型訓練,在業務上則是支持網易的圖像識別、語音識別、機器翻譯等應用。
同在感知與智能中心的技術專家劉東則告訴雷鋒網,中心大量使用 GPU 來進行深度學習訓練,DGX-1 帶來主要的好處是加速模型訓練,此前在單節點上進行中等規模的數據集訓練可能需要 1 個月時間,現在使用 DGX-1 大約 7 - 10 天就會有結果,也就是說能試驗更多的演算法,產品更新也會更快。
網易的人工智慧部門是什麼樣子?
2011 年,當時剛研完博士後的李曉燕在網易成立了網易多媒體技術組,這個部門後來發展成了今天覆蓋演算法、開發和業務孵化的感知與智能中心。一直為網易的各個業務提供人工智慧相關的技術支撐,並且在逐步對外開放技術。
李曉燕說,網易的人工智慧開發更多的是從業務出發,為網易業務提供 「特別演算法」,優化體驗 。該中心自主研發的人臉分析、圖像處理、音樂識別、語音識別、智能問答、機器翻譯、機器視覺、計算機圖形學、增強現實引擎等 AI 相關技術,在郵箱、遊戲、雲音樂、網易雲、電商、有道、新聞等網易集團全產品線中都得到了應用和推廣,實現了網易全產業鏈 AI 落地。
今天網易的感知與智能中心,擁有自建分布式深度學習平台,包括底層深度學習 GPU 集群、深度學習模型、開放能力介面,以及深度學習、語音音頻、計算機視覺、模式識別、人機交互、異構計算等技術,在業務上支撐網易的郵箱、遊戲、雲音樂、網易雲、電商、有道等等,也為企業客戶和消費者提供 AR、BOT、AI 開放平台等產品和服務,目前已經與很多行業龍頭企業展開了合作。
深度學習的硬體發展
劉東回憶,在應用深度學習進行開發的早期,他們很快發現用 CPU 做模型訓練效率很低。2012 年他們就把大部分模型訓練和推理遷移到了 GPU 上。
而與深度學習的其他硬體加速方案相比,GPU 有明顯的開發效率上的優勢。劉東告訴我們,在深度模型推理部分,如果利用 FPGA 做加速,完成編碼、模擬、調試驗證等整個流程一般需要數周甚至數月時間。相比之下,基於 GPU 方案可能一周就能完成。這顯然更符合互聯網產品更新的節奏。
而從 NVIDIA 幾代 GPU,從 K 系列 - M 系列 - P 系列的使用來看,每一代在性能上都有很顯著的提升,並且在軟體服務端更新地很快。比如 NVIDIA 在去年專門推出了針對 LSTM 網路計算加速的 SDK 升級,這在機器翻譯等自然語言處理項目中被廣泛使用到。
NVIDIA 內部跟深度學習圈子有大量的互動,包括與 DGX-1 的客戶也保持著密切的溝通,在深入了解企業使用情況與行業需求的基礎上,進一步提升相關技術和用戶體驗。同時,NVIDIA 本身也是 DGX-1 的深度用戶,通過在眾多領域應用 DGX-1 向工程團隊提出反饋和建議。
一名 NVIDIA 的工作人員告訴雷鋒網 (公眾號:雷鋒網),在 GTC 前夕,NVIDIA 通常會舉辦一個小型的深度學習峰會,一般會邀請深度學習領域的大牛以及創業公司,一起探討下一代硬體和軟體如何更好地支持各種研究和應用。黃仁勛在內部對此相當重視。此外,今年即將於 5 月在矽谷舉辦的 GTC,也將會有涉及 DGX-1 用戶、醫療、公共服務等的專場論壇來做相關探討。
前 Orbeus 首席科學家 Wei Xia 在知乎上的回答也印證了這個說法:「我還記得我們當時提了關於訓練的時候如何 visualize 的問題,並給他們展示了我們當時自己開發的簡陋版 monitoring system,過了幾個月他們在發布 Digit-Box 的時候就有一個還不錯的 visualization system 了。」
從 NVIDIA 的角度看,過去一年它在深度學習的軟硬體提供上繼續完善,DGX-1 補充了強勁的訓練平台,而 Tesla P40、P4 則是強調能效的推理產品線。
NVIDIA 方面告訴我們,目前在國內,除了網易,海康威視等多家機構都在部署 DGX-1。眼下在 12.9 萬美金的高價之下,大公司和資金充裕的研究機構會是 DGX-1 的第一批嘗鮮者。但在 1 - 2 個季度之後,這一情況也有可能會發生變化。一個原因是與 NVIDIA 合作的 OEM 廠商們將會推出各自品牌、不同規格的深度學習超級計算機。
更重要的一方面在於中小型機構的應用。NVIDIA 在醫療領域的合作夥伴承藍科技 CEO 姜意告訴雷鋒網,DGX-1 的推出可能會幫助科研院校還有醫院一類機構對深度學習進行快速部署,對於 IT 能力較弱的機構來說,接近 「即插即用」 的深度學習超級計算機是具有誘惑力的,尤其當這些應用本身有很高附加值的時候。


※多達 20 位核心人才出走,特斯拉緊繃的神經要斷了?
※樂天官網被黑,百度與MySQL共患難,工信部敲小黑板
TAG:雷鋒網 |
※NB-IoT來勢洶洶,最有可能在哪個應用落地開花?
※全球首家MUJI Diner落地魔都!還不速來打卡?
※10萬落地還要什麼自行車,夠用就好了:雪鐵龍C3-XR
※夢想落地的小米 MIX 2,是否能贏得大眾的喜愛?
※WE戰隊:人皇Sky本自一家 落地金身便是若風
※瞄準全球頂尖的AI落地案例,AICon來了!
※WWDC推出Core ML背後,盤點國內外機器學習已有的落地實踐
※BIM應用落地的全過程指導案例,乾貨!收藏!
※繼NBA、NHL中國賽之後,美國最火賽事NFL又將何時落地中國?
※全新黑馬國產七座MPV上市,配置不輸埃爾法,落地僅15萬還買啥GL8
※絕地求生玩家落地就撿到兩把98K,網友:你是沖了會員嗎?
※紐約共識落地難,BCC將成為最好的出路
※蘋果競價排名有望落地中國,關於App Store搜索市場你應該了解這些
※潮流 | OFF-WHITE 香港第二家分店落地!趕緊約上好友打卡吧。
※當別人靠AI圈錢的時候 這家公司已經將AI落地了
※壁掛電視櫃已out了,現在更流行這樣的落地式,美觀省地又實用
※手機吃雞最新BUG,人都落地了降落傘不收,瞬間暴露位置!
※被美國國家地理評為「人生必去的50個旅遊目的地之首」,這幾年爆紅可落地簽
※三年磨一劍,LeEco全生態即將落地美國