英偉達宣布推出首款面向邊緣設備的人工智慧平台

作者：MIKE WHEATLEY

英偉達公司周一早些時候推出了新的英偉達EGX平台，將人工智慧引入網路邊緣，該平台能夠實時感知、理解和處理數據，而無需首先將數據發送到雲端或數據中心。

將人工智慧應用於智能手機、感測器和工廠機器等邊緣設備是該技術不斷發展的下一個階段。最早的人工智慧演算法非常複雜，只能在雲數據中心運行的強大機器上處理，這意味著需要通過網路發送大量信息。但這是不可取的，因為它需要大量帶寬並導致更高的延遲，而且使得「實時」人工智慧難以實現。

企業真正想要的是可以在數據產生的地方執行的人工智慧，無論是製造工廠、零售商店還是倉庫。幾家科技公司都在試圖解決這個問題，最近的嘗試是英特爾公司今天推出的 「冰湖」晶元——這是該公司首款10納米晶元，此外還有數十家創業公司也瞄準了這個領域。

但是英偉達進入人工智慧邊緣是值得注意的，因為該公司的圖形處理單元被廣泛認為是最好的人工智慧處理硬體。其中包括用於深度學習的Tesla V100和Quadro GV100，它可以實時進行光線跟蹤，即創建逼真圖像的過程。

新的英偉達EGX平台可以從基於Jetson Nano處理器的輕型伺服器——能夠以幾瓦的功耗每秒鐘處理0.5萬億次操作，擴展到基於邊緣伺服器NVIDIA T4機架的微型數據中心——可以每秒完成10,000萬億次操作。晶元的節能功能對於人工智慧來說非常重要，因為傳統的硬體運行此類任務時，耗電量非常巨大。

在媒體簡報中，英偉達企業和邊緣計算高級主管Justin Boitano表示，對NGX之類的平台的需求將會很大，因為到2025年，世界上將有大約1500億台機器感測器和「物聯網」設備。他表示有很多這樣的感測器將被用於「智能城市」等計劃，並將生成需要在現場進行處理的數據——這主要是出於更低延遲和實時響應的需求，數據主權法規的要求或對隱私問題的考慮。

Boitano表示： 「人工智慧確實是所有行業在視覺和言語方面的殺手級應用。」

如果真的想要充分利用這些晶元，合作夥伴關係也很重要。處於這個原因，英偉達正在整合NVIDIA Edge Stack軟體，而不是讓EGX運行在Red Hat的OpenShift Kubernetes容器編排平台上以實現與現代軟體應用程序的兼容。

該平台還集成了Mellanox Technologies股份有限公司的安全、存儲和網路技術，英偉達計劃在年底前以69億美元的價格收購Mellanox Technologies股份有限公司。

Mellanox首席技術官Michael Kagan 表示：「Mellanox Smart NIC和交換機為數據訪問提供了理想的I / O連接，可從邊緣擴展到超大規模數據中心。」

英偉達正在與至少13家不同的伺服器製造商合作銷售EGX平台，包括思科系統公司、戴爾EMC、惠普企業公司和聯想集團控股有限公司等大牌製造商。

NGX還兼容運行在主要雲基礎架構服務（如Amazon Web Services和Microsoft Azure）上的人工智慧應用程序，並且可以連接到物聯網服務，例如AWS IoT Greengrass和Azure IoT Edge。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！