NVIDIA人工智慧最新發布：EGX邊緣計算平台

5月27日，在台北電腦展期間，NVIDIA宣布推出了最新的NVIDIA EGX邊緣計算平台。據介紹，NVIDIA EGX旨在滿足對即時、高吞吐量的邊緣人工智慧，即數據產生之處不斷增長的需求，在確保反饋時間的同時能夠減少需要發送至雲端的數據量。能夠幫助企業在邊緣(edge)實現低延遲的人工智慧，即基於5G基站、倉庫、零售商店、工廠及其他地點之間的連續的數據流實現實時感知、理解和執行。

2025年，預計將會有1500億台機器感測器和物聯網設備持續輸出數據，這比當今使用智能手機的個人用戶所產生的數據要高出幾個數量級。像基於NVIDIA EGX平台這樣的邊緣伺服器將分布在全球各地，對來自這些感測器的數據進行實時處理。

NVIDIA副總裁兼企業與邊緣計算總經理Bob Pette表示：「企業需要更加強大的邊緣計算能力，以處理來自於與客戶和設施的無數交互中產生的海量原始數據，從而快速制定人工智慧增強型決策以驅動業務發展。像NVIDIA EGX這樣具有可擴展性的平台讓他們能夠輕鬆地部署系統，以滿足本地或雲端的需求」 。

EGX可從僅需幾瓦就能為圖像識別等任務提供0.5 TOPS處理性能的小巧NVIDIA Jetson Nano，一直擴展至可為實時語音識別和其他實時人工智慧任務提供10,000 TOPS性能的整機架NVIDIA T4伺服器。

與生態夥伴深入合作，打造強大AI解決方案

NVIDIA已與紅帽開展合作，利用領先的企業級

Kubernetes容器編排平台OpenShift對NVIDIA Edge Stack進行集成和優化。

NVIDIA Edge Stack是優化型軟體堆棧，包括NVIDIA驅動程序、CUDA Kubernetes插件、CUDA容器運行時、CUDA-X 庫和容器化人工智慧框架及應用程序，並包括TensorRT、TensorRT推理伺服器和DeepStream。NVIDIA Edge Stack針對經認證的伺服器進行了優化，可通過NVIDIA NGC註冊下載。

紅帽首席技術官Chris Wright表示：「紅帽致力於為從混合雲到邊緣的任何工作負載、封裝和位置提供一致的體驗。通過將紅帽OpenShift和支持NVIDIA EGX的平台相結合，客戶能夠在一致、高性能、以容器為中心的環境中更好地優化其分散式操作。」

EGX將一系列的NVIDIA人工智慧計算技術與紅帽OpenShift相結合，並將NVIDIA Edge Stack與Mellanox和思科的安全、網路和存儲技術相結合，以助力製造、零售、醫療健康和交通運輸等大型產業內的公司快速建立最先進且安全的企業級人工智慧基礎設施。

Mellanox Technologies首席技術官Michael Kagan表示：「Mellanox Smart NICs 和交換機為數據訪問提供了理想的I/O連接，可實現邊緣乃至超大規模數據中心的數據訪問。高性能、低延遲和加速網路的組合實現了一種全新的基礎架構計算層，其對於NVIDIA EGX等邊緣平台上的新一代更先進的人工智慧解決方案所需的高效數據訪問和供給至關重要。」

思科計算系統副總裁Kaustubh Das 表示：「思科很高興與NVIDIA合作。藉助NVIDIA EGX賦力的思科平台，和思科計算、結構、存儲和管理軟體，以及思科領先的乙太網和基於IP的網路技術，我們能夠為客戶提供從邊緣到核心的全棧解決方案。」

NVIDIA人工智慧計算通過主要的雲服務平台提供，在架構上與NVIDIA EGX兼容。在雲端開發的人工智慧應用程序可在NVIDIA EGX上運行，反之亦然。

NVIDIA Edge Stack可連接至主要的雲IoT服務，客戶可通過

AWS IoT Greengrass和Microsoft Azure IoT Edge對其服務進行遠程管理。

NVIDIA EGX伺服器針對NVIDIA Edge Stack和NGC-Ready進行了調優，經過CUDA加速容器的驗證。

Azure IoT Edge總監Sam George表示：「Azure IoT Edge可助力客戶快速、安全地將雲服務部署至其物聯網設備。我們期待在Azure IoT Edge設備端提供對NVIDIA EGX邊緣平台的支持，以便客戶針對兼容EGX的硬體進行人工智慧工作負載的部署。」

NVIDIA EGX正致力於優化邊緣人工智慧，以支持不斷成長的軟體解決方案生態系統。

這些解決方案包括AnyVision、DeepVision、IronYun和碼隆科技等軟體供應商推出的適用於大型零售連鎖店和城市智能等視頻分析應用程序，以及圖瑪深維、推想科技、Qunatib和Subtle Medical等公司針對醫療健康領域的軟體產品。

據了解，EGX伺服器現已通過以下全球企業級計算提供商供貨：ATOS、思科、戴爾EMC、富士通、HPE、浪潮和聯想。此外，也通過以下主要伺服器和IoT系統製造商供貨：Abaco、宏碁、凌華科技、研華科技、ASRock Rack、華碩、圓剛科技、Cloudian、Connect Tech、Curtiss-Wright、技嘉科技、Leetop、米文動力、Musashi Seimitsu、QCT、中科曙光、超微、泰安、WiBase和緯穎科技。

率先採用該平台的行業領先企業及組織已超過40家。其中就包括BMW Group Logistics。藉助於NVIDIA EGX邊緣計算和Isaac機器人平台，其能夠將人工智慧的強大功能直接帶入到其物流流程的邊緣，為日益複雜的物流提供實時效率。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！