AWS發布Neo-AI開源項目，可訓練跨平台的機器學習模型

AWS發布新開源項目Neo-AI，該項目源自於Amazon SageMaker機器學習服務中的ML模型自動優化功能「 Amazon SageMaker Neo」，以協助處理器企業、設備製造商、深度學習開發人員打造可支持各種硬體平台的機器學習模型。

AWS所提供的Amazon SageMaker服務，能協助開發人員或數據科學家快速創建、訓練與布署機器學習模型，而Amazon SageMaker Neo則是SageMaker服務的一項功能，只要訓練一次就能以優化性能在雲計算或其它硬體平台上運行。

AWS解釋，平常要優化一個機器學習模型以讓它適用於不同的硬體平台並不容易，開發人員必須針對每一個硬體平台與軟體配置手動調整模型，對邊緣設備而言則更具挑戰性，因為這類設備不管是在運算能力或存儲空間上都有所限制，開發人員可能需要深入了解硬體，或者具備罕見的專業知識，就算兩者兼備，有鑒於好的工具並不容易取得，還必須經過大測量試才能達到良好性能。

而軟體上的差異更讓優化難上加難，假設設備上的軟體與模型上的版本不同，模型與設備將不兼容，又再度限制了開發人員可進行優化的設備。

AWS宣稱Neo-AI可減少調整機器學習模型以布署於不同平台的時間，藉由自動優化TensorFlow、MXNet、PyTorch、ONNX與XGBoost等模型，在不喪失精確性的情況下，讓其執行速度達到原始模型的兩倍；此外，它還能將模型轉換為高效通用格式，以解決軟體兼容性問題。

Neo-AI也允許複雜的模型在資源有限的設備上執行，能釋放自動駕駛汽車、家庭安全或異常檢測等領域的創新能力，它目前支持來自英特爾、Nvidia與Arm的平台，並即將支持Xilinx、Cadence及Qualcomm。

Neo-AI的本質是個機器學習編譯器，處理器製造商可將程序代碼集成到編譯器上以改善模型性能，設備製造商則能根據設備的軟/硬體配置定製化Neo-AI的運行環境，Neo-AI項目將汲取不同來源的創新，打造一個通用的編譯器與運行環境，以帶來各種模型的最佳性能。

AWS已藉由GitHub發布Neo-AI項目，將采Apache軟體授權。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！