2小時，從權游到自動駕駛，英偉達創始人黃仁勛北京演講說得最多的是「省錢」！

大數據文摘作品

作者：Aileen, 魏子敏，龍牧雪，崔雲柯

「Saving money（省錢）！」

這兩個字可能是今天上午英偉達GTC 2017北京場，黃仁勛在兩小時的keynote演講中提到最多的一句話。

這兩個字也道出了本次大會英偉達想要展示給中國聽眾的精華：NVIDIA的願景是為所有AI研究人員打造一個功能強大，又經濟高效的AI計算平台。

9月26日，英偉達GPU科技大會GTC 2017世界巡迴北京場開幕。今天上午，大會的主題演講依舊由英偉達創始人、總裁兼首席執行官黃仁勛帶來，探討了在AI時代下，英偉達如何引領新格局。演講中，他宣布了全球首款可編程的AI推理加速器TensorRT3的發布，介紹了英偉達開放的自動駕駛計算平台NVDIA DRIVE，還展示了從權力的遊戲到AI城市，英偉達產品加速AI的案例。此外黃仁勛重磅宣布了與中國眾多企業的合作，包括阿里巴巴、百度、騰訊、華為、浪潮、聯想等。

本次大會將持續三天時間，之後，英偉達GTC 2017還將去到慕尼黑、特拉維夫、台北、華盛頓特區和東京等地區。

大數據文摘第一時間為各位帶來本次演講的精華內容及演講PPT：

英偉達願景：適用全球的NVIDIA AI計算和AI推理平台

黃仁勛激動的跑上台，大喊：Welcome Beijing！接下來就開始了自己2小時的演講。

他首先宣布中國的頂級雲服務提供商均採用NVIDIA AI計算，阿里巴巴、百度、和騰訊已在各自的雲服務中採用NVIDIA Volta GPU。研究人員和初創公司現在可以租用雲端最先進的AI基礎設施，免去建造超級計算機的複雜性和高昂費用。省錢！

NVIDIA的願景是為所有AI研究人員打造一個功能強大而高效的AI計算平台。NVIDIA將積極投入，全力推進"統一架構「CUDA GPU計算，從而保護開發人員在其平台上的重大投資。他表示英偉達通過Inception計劃，支持了1900家初創公司創建AI的未來。

黃仁勛稱AI推理是AI領域的下一個巨大挑戰。AI是軟體的未來，可以讓我們重新暢想各種服務，軟體，計算機和設備。經過訓練的網路將展現出驚人的智慧並融入萬億物聯網設備中。

AI推理平台必須具備可編程性，才能運用種類繁多且不斷演進的網路框架。新的架構、更深的網路、新的分層設計會繼續提升CNN的性能。

近來，網路設計正在經歷爆炸性的增長：

用於長序列模式分類的RNN (如LSTM)實現了超越人類的語音識別和語言翻譯能力；

GAN：一個網路通過訓練進行判別，另一個網路則不斷學習生成示例以欺騙判別器，最終的生成器可生成圖像、語音、取出噪音；

強化學習通過反覆的試錯、並且根據價值函數來進行獎懲，機器人可以利用強化學習進行行為學習。

同時，智能機器也正在經歷著爆發性增長：AI會將智能注入到2000萬雲伺服器、上億台汽車和製造機器人中。最終，以萬億的物聯網設備和感測器將只能地監測一切，從心率到血壓監測，到需維修設備的振動監測。

AI推理平台必須可擴展，以解決海量計算的性能、功耗、和成本需求 - 省錢！

重磅宣布NVDIA TENSORRT 3 的發布，全球首款可編程的AI推理加速器

黃教主隨後非常激動地宣布了NVIDIA TENSORRT3的發布。TensorRT可編程，且支持所有框架，並能加速現有和未來的網路架構。TensorRT可編譯到廣泛的目標CUDA GPU中，從120 TOPS到1 TOPS，從250瓦到低於1瓦。同時TensorRT也是一款適用於CUDA GPU的優化神經網路編譯器，可利用CUDA深度學習指令集創建運行時。它可以確定每個目標GPU的最佳策略，對數值精度、網路層、和張量的去除和融合、快速內核以及內存管理進行優化。

從雲、數據中心、PC、汽車到機器人，TensorRT皆能在NVIDIA全系列平台用最低耗能獲得最優效果。

這張圖表解釋了TensorRT3的卓越性能。運行在Volta上的TensorRT3在圖像分類方面比最快的CPU還要快40倍，在語言翻譯方面則要快140倍。

神經網路的響應時間或處理延時會對服務質量造成直接影響。運行在V100上的TensorRT在處理圖像時可實現7ms的延時，在處理語音時延時不到200ms，這是標準雲服務的理想目標。單靠CPU是無法實現的。AI推理降低數據中心整體擁有成本,在不遠的未來，數據中心內的每一個查詢和工作負載都將涉及一個或多個DNN推理，而推理吞吐量將直接影響數據中心的成本。劃重點，能省錢！

而且你的數據中心不用再那麼臃腫了！（從上圖變成下圖）

黃教主對於數據中心體型的這一變化頗為欣喜，並且現場展示了兩者在體型上的巨大變化。他在兩張圖片之間來回切換並且表示，我可以看這個看一整天。

神經網路的響應時間或處理延時會對服務質量造成直接影響。運行在V100上的TensorRT在處理圖像時可實現7ms的延時，在處理語音時延時不到200ms，這是標準雲服務的理想目標，單靠CPU無法實現。

AI推理降低數據中心整體擁有成本：在不遠的將來，數據中心內的每個查詢和工作負載都將涉及一個或多個DNN推理，推理吞吐量直接影響數據中心成本。

從權力的遊戲聲音識別到AI城市 -- 英偉達無處不在

接下來，黃仁勛展示了應用最新CPU的三個案例。

黃教主展示的第一個案例是一個關於圖像推理的案例。這個演示展現了用最新的CPU和通過TensorRT 3優化V100的推理吞吐量比較。（網路為Resnet-152並由TensorFlow進行訓練）

使用使用最新的CPU的識別器識別速度翻倍，可以在一秒鐘識別超過200張圖像。

黃教主接下來展示了另外一個案例，關於語音推理。他介紹了一家叫做「Deep Gram的公司，這是一家目標客戶為針對安全或隱私原因需要在內部部署語音引擎的初創企業。

這家公司語音識別一個很有趣的應用場景是對權力的遊戲里的台詞進行語音搜索。黃教主也在現場展示了這一搜索的炫酷之處。

權力的遊戲：搜索進入當時的那句台詞的場景、集數

最後一個案例是關於AI城市：助力中國建設更智慧、更安全的城市。

確保城市安全是全球的首要任務之一到2020年，城市中的實時攝像頭將達到10億，光靠人力監控這些攝像頭是不現實的，AI是唯一的解決方案。AI城市是一個巨大的AI推理挑戰，它可能需要使用大約1000萬個Tesla V100 GPUs來監控10億台攝像頭。

黃仁勛宣布海康威視攜手 NVDIA共建 AI城市。此外，大華、華為和阿里巴巴都提供基於平台的視頻解決方案。海康威視已經在端到端解決方案中採用 NVDIA平台，大華的方案為大型活動提供了數以百計的虛擬保安，華為的方案用於監控交通流量，阿里巴巴的解決方案可以監控交通堵塞並改善交通狀態。

深度學習需要海量的數據，但不是每個人都可以獲取如此龐大的數據量。遷移學習可以利用同一個問題學習到的知識來解決另一個不同的相關問題，而不需要使用大量數據來訓練新的網路。這有助於提高城市的安全性，找到失蹤人員，改善交通環境和加強執法能力。

大會上，黃仁勛還宣布了使用NVIDIA GPU的中國公司，他說，中國擁有世界上最龐大和最活躍的互聯網用戶群，並且中國的互聯網公司是AI 領域的全球領導者。他們正在競相把 AI 融合到商業、社交、新聞、語音、時時視頻和圖像共享中。中國的頂級互聯網公司都採用了NVDIA 的可編程推理加速平台來支持呈指數級增長的 AI工作負載，包括阿里巴巴、騰訊、百度、京東和科大訊飛等。

AI最大的貢獻之一：自動駕駛領域的變革

黃仁勛表示，自動駕駛汽車的發明將是AI最大的貢獻之一。自動駕駛將催生新的計程車服務，幫助卡車司機減輕壓力、增加運輸距離並減少事故。自動駕駛甚至能改變車輛的形態——在飛機和汽車之間使用自動駕駛技術，汽車和飛機的邊界將會變得模糊。這是由NVDIA 技術驅動的 AirBus 飛行汽車。

黃仁勛介紹了英偉達開放的自動駕駛計算平台。NVDIA DRIVE是一個為自動駕駛行業帶來變革的端到端品牌,汽車製造商將訓練汽車,共享和車隊服務將訓練AI用於管理車隊。自動駕駛計算機可以支持L3、F4和L5級。開放軟體棧包含了從ASIL-D OS、深度學習、計算機視覺SDK到自動駕駛行動。

DRIVE AV是 NVDIA 開發的自動駕駛應用。環繞攝像頭、雷達和激光雷達的感測數據融合，多種深度學習和計算機視覺演算法將為L4和L5級別自動駕駛技術提供所需的多樣性和冗餘性。這一系統可以做到3D識別移動物體的長寬高、與自己的距離等，下面是一個酷炫的展示demo

GIF/1636K

NVDIA DRIVE是最前沿的深入學習和計算機視覺計算機，可以讓新型的初創公司設計新的演算法和軟體。145家初創公司正在研製基於NVDIA DRIVE 的自動駕駛汽車、卡車、高清製圖及服務。比如Zoox正打造一個全新的智能計程車及相應服務。

自主機器新紀元：推出全球首款自主機器處理器

黃仁勛稱，英偉達正致力於設計許多類型的自主機器,他能感知周圍的環境,理解他的處境以及做出合理響應。計算挑戰性在於實時處理,豐富的感測介面,深度學習推理,高性能並行計算和高能效的要求。

他還表示，英偉達設計了全球首款自主積極的處理器,我們稱之為Xavier。Xavier是迄今為止最為複雜的片上系統——將於18年第一季度早期接觸合作夥伴提供;18年第四季度全面推出。

他繼續宣布了京東X選擇NVDIA實現其自助機器,機器人技術將會革新製造,物流和配送行業。京東作為全球最大的零售和物流運營商之一，京東採用了英偉達的Jetson平台。Xavier將成為下一代Jetson的片上系統（SOC）

教機器人與外部世界交互和執行複雜的任務是一個未解決的難題。相信隨著深入學習和AI的突破,這個問題的最終必將得以解決。但是當機器人學習執行具體任務的過程中,他們可能會對周邊的失誤造成損壞,而且需要很長的訓練周期。我們需要創建一個可供機器人學習的虛擬世界,一個看起來向現實世界,並遵守物理學定律的世界,機器人可以在其中超實時的學習。他們把這個虛擬機器人模擬環境稱之為Isaac Lab。其中，Issac的命名是來自牛頓。NVDIA Xavier——全球首款自動機器處理器將在第一季度發布樣片，並將揭開人工智慧時代的新篇章。

黃仁勛的演講在11點準時結束，現場完整視頻將在英偉達優酷及YouTube頻道呈現。

讓我們響應黃教主的號召，一起創造AI時代！ Let s go creat the future together!

志願者介紹

回復「志願者」加入我們

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！