英偉達全球副總裁暴力拆解:如何用AI打造「超強大腦」與「城市之眼」?(附PPT)
CNET科技行者 9月26日 北京消息(文/黃雅琦): GTC 2017 Keynote上,NVIDIA創始人兼CEO,黃掌門不止一次提到「Save money 」。
當然,這是主會演講「PPT鬧情緒」期間,老黃為活躍氣氛而講的「玩笑話」。
玩笑聲的背後,NVIDIA正在將AI推廣至每個計算平台、每個架構、以及人類的每項工作中。
NVIDIA 全球副總裁兼智能機器事業部總經理 Deepu Talla
Deepu Talla,現任NVIDIA 全球副總裁兼智能機器事業部總經理,主要負責在工業機器人、商用無人機和視頻分析等設備上部署AI技術。
現在,他手裡掌握著NVIDIA兩大最重要的應用領域:機器人和AI城市。
在GTC2017大會期間,Deepu Talla帶來一場名為「AI AT THE EDGE」的主題演講,專攻兩個話題:
一,NVIDIA機器人「大腦」——詳解「AI超級計算機」Jetson TX2平台;
二,AI城市,需要邊緣到雲的架構——詳解NVIDIA Metropolis平台。
在這場近50分鐘「乾貨」分享中,我們highlight了Deepu Talla的精彩要點:
一項深度學習工程的搭建,可分為訓練(Training )和推理(Inference )兩個環節。但第一步,需要創建神經網路。隨著深度神經網路在多種應用上取得極大成功,網路架構也變得越來越深。
在網路架構變化的同時,包括物聯網在內的終端設備數量也越來越多。因為這些設備直接連接感測器數據(攝像頭、麥克風、陀螺儀等),所以在終端設備上部署機器學習具有極大的吸引力。
但現在看來,頂級的機器學習系統還無法滿足終端設備的現狀:
1、要麼把感測器數據輸入到雲端的大型神經網路模型;
2、要麼直接在終端設備上使用簡單的機器學習模型。
前者存在帶寬、延時、數據隱私、網路連接這四大難題,但後者會降低系統的準確率。
為了克服這些問題,自然而然地就想到了分散式計算方法。層級分散式計算架構包括雲、邊緣與終端設備,NVIDIA推出端到端Training到Inference,後端伺服器到前端攝像頭)的深度學習平台。
Deepu Talla表示:
對訓練環節中神經網路的大量數據訓練,主要用的是DGX-1;
之後將訓練好的數據存入到雲和數據中心,這方面主要使用的是Tesla;
當然,也可以將這些數據部署到錄像機和攝像頭之中,這裡主要使用的是Jetson計算平台。
這裡他提到AI最主要的應用——機器人。
事實上,機器人早已不是單純地用來博人眼球的噱頭,諸多機器人應用已經真實落地於多個行業終端,包括醫療、零售、公共事業和交通領域等垂直行業當中。
Jetson TX2:名片大小,卻是機器人的「超強大腦」
在機器人部署中,如何讓機器擁有與人一樣的「意識」,Deepu Talla 提到三個環節:感知、思考、行動。為了讓機器人為行業輸出更大能力。於是,NVIDIA 升級Jetson計算平台,推出Jetson TX2。
正是這個僅為名片大小的平台,卻是機器人的「超強大腦」。
Jetson TX2是NVIDIA嵌入式計算系列產品繼Jetson TK1和TX1之後的又一突破。
它所提供的性能為早前版本的兩倍,即能夠以兩倍以上的功效運行,且功率低於7.5W。這使得Jetson TX2能夠在終端應用上運行更龐大、更深度的神經網路,讓設備更加智能,具有更高的精度和更快的響應時間,以執行如圖像分類、導航和語音識別等任務。
Jetson十大應用場景
NVIDIA Jetson嵌入式平台對機器人,IVA等行業的助益著實不容忽視。除此之外,NVIDIA也宣布推出Isaac機器人模擬器。
NVIDIA Isaac:在虛擬環境進行AI訓練和測試
NVIDIA Isaac機器人模擬器能夠實現在部署前模擬現實條件對智能機器進行訓練。Isaac將VR和AI這兩個先進技術加以融合,可為機器人提供一個虛擬環境進行AI訓練和測試。
在其構建的虛擬環境中,開發人員可通過虛擬現實技術來搭建各類測試場景,然後在幾分鐘內對其進行模擬,從而可以在虛擬世界中快速得到大量訓練數據,然後再利用AI技術從這些數據中訓練得到知識。
這些環節中,Deepu Talla特彆強調了四點:1、搭建場景需要像現實一樣真實; 2、虛擬環境必須符合物理法則,碰撞,壓力,效果都要與現實世界一樣;3、高性能計算,AI平台;4、虛擬世界入口,VR。
機器人之後,Deepu Talla 將話題轉到 AI 城市。
AI城市共建:NVIDIA用AI裝上「城市之眼」
「AI城市是一個巨大的AI推理挑戰,它可能需要使用大約1000萬個Tesla V100 GPUs來監控10億台攝像頭。 」Deepu Talla表示。
至於為什麼NVIDIA要進入到安防IVA領域,Deepu Talla表示,一方面是維護人身安全的需要;另一方面是行業需求,因為這個行業需要用到視頻分析,需要進行語音辨識,這兩個領域藉助深度學習再合適不過。
給智慧城市裝上「城市之眼」,NVIDIA核心競爭力在於:從解決方案的層面,NVIDIA提供從訓練到推理的解決方案,也可以提供從雲到數據中心到伺服器到端這樣的解決方案,覆蓋安防全行業。
目前,NVIDIA為打造AI城市已部署NVIDIA Metropolis平台。
Metropolis於今年5月份首次發布,是一個包含各種工具和技術從終端到雲端的視頻分析平台,以構建覆蓋交通與停車管理、執法、城市服務等各個方面更智能、更快速的AI賦能應用。
此外,NVIDIA正在與合作夥伴攜手,以助力中國建設更智慧、更安全的城市為目標,加快腳步。
海康威視在端到端解決方案中採用NVIDIA平台;
大華的方案為大型活動提供了數以百計的虛擬保安;
華為的方案用於監控交通流量;
阿里巴巴的解決方案可以監控交通堵塞並改善交通狀況。
下一步,挑選軟體合作夥伴
Deepu Talla向科技行者透露,NVIDIA正在通過新的合作夥伴計劃匯聚更多的全球最佳AI公司,以加速圍繞Metropolis的新產品開發。
在GTC2017現場,NVIDIA就展示不少「中國力量」。
JDrone:高空配送
京東 X已與北京、四川、陝西和江蘇等省市合作推出了試點項目,旨在將無人機用於快遞、農業、搜索和救援領域。憑藉擁有高性能、低能耗、小尺寸和先進視覺能力的Jetson,JDrones具有每小時100公里的航速,同時可以配送重達30公斤的包裹。其它京東無人機測試可承載多達200公斤。
海康威視:讓安防「火眼金睛」
海康威視將攝像機及網路錄像機與NVIDIA Jetson終端相結合,使用由NVIDIA Tesla P4 GPU加速器提供支持的雲伺服器,以及利用DGX-1 AI超級計算機的大規模計算能力進行訓練。 監控攝像頭採集到的視頻信息輸入系統,系統會自動分離出所有人(包括人臉、衣著甚至背影)和所有汽車(包括車牌、顏色、年款)。
|關注科技行者(微信號:itechwalker),打開對話界面回復「黃仁勛」,可獲得【GTC2017黃仁勛演講】完整版高清PPT


※對話黃仁勛:我們看重三個AI應用行業,發布了五個新項目,每一個都有GPU
※他是微軟CEO,蓋茨為他的書寫序,看印度裔管理重振老牌跨國公司
TAG:CNET科技行者 |