AI技術落地過程存挑戰，UCloud用雲計算賦能AI

「

如果說2017 年是人工智慧技術爆發的「元年」，那麼 2018 年則是人工智慧技術的「落地之年」。那麼，在AI技術實際落地的過程中，會遇到什麼樣的瓶頸? 企業的人工智慧之路如何走才能穩健有力呢？近日，國內領先的中立雲服務提供商UCloud給出了答案。

」

在日前UCloud主辦的Think in Cloud 2018大會上，UCloud 高級研發工程師宋翔接受飛象網採訪時總結了AI的挑戰來自三大方面：一是基礎環境，在AI入門階段基礎環境是非常大的挑戰，涉及AI框架、演算法庫、GPU技術庫、存儲等各種設備，各類交叉選擇之後的環境更加複雜，如何選擇適合自己的研發環境是一大挑戰；二是AI系統建設，這個過程中需要考慮演算法兼容性、平台擴展性、分散式化、縱向擴展、高可用以及容災能力等問題；三是投入產出問題，如何用較少的投入得到較高的回報？如何通過調研精確需求，控制研發成本，如何降低資源成本和運營成本，讓研發人員更關注演算法，都是AI所面臨的挑戰。

如何應對這些挑戰呢？UCloud認為解決這些問題的核心方法就是實現平台化，包括環境分離、分散式化、可擴展性和資源共享四個方面。環境分離方面有兩個主要方向，一是通過容器的封裝把軟體和運行環境隔離，把存儲和計算隔離，讓更多的存儲資源可以接入到AI環境中去；二是數據分離，因為對AI來說，訓練過程中的數據非常重要，只需要提供本地存儲的介面即可訪問各種數據層，實現良好的數據訪問。

同時，平台化能做到良好的資源共享，例如通過UCloud的AI訓練平台和在線服務平台，用戶想做AI訓練，只需要把任務提交到訓練平台，就可以在平台上自動的完成任務，而無需要關心這個任務是否失敗、到底在哪台機器上跑等一系列問題，可以大大簡化AI演算法人員使用平台的複雜度；對於演算法人員或業務人員來說，有了在線服務平台，當他實現演算法之後，可以用這個平台快速地部署自己分散式的在線任務，而無需自己搭建一個分散式的環境或服務。

也許有人會問，雲服務商發力人工智慧為哪般？為什麼說雲計算跟人工智慧的落地有很大的關係呢？隨著雲計算的發展，不同行業企業的數據生產和消費都是在雲計算平台上進行的。雲計算就是為了提供計算能力而產生的。所以，天然來說，在雲計算上做機器學習的訓練和推理是非常自然的一件事情。

於是，我們看到UCloud推出了支持人工智慧演算法框架的大規模分散式計算平台——UAI-Inference。UAI-Inference面向初創企業、傳統企業AI轉型而生，旨在提供易部署、易運維、更安全以及多AI框架支持的海量AI在線服務節點，自動實現負載均衡、擴容縮容。按實際使用量計費，普遍適用於常見的AI在線服務場景，如圖像識別、自然語言處理。

宋翔介紹說，UAI-Inference提供了類似Serverless的架構，為用戶提供了「兩步走」的部署模式。首先，向用戶提供SDK工具包，內含介面代碼框架、代碼和數據打包模板以及第三方依賴庫描述模板。用戶只需根據SDK工具包內的代碼框架編寫介面代碼，準備好相關代碼和AI模型以及第三方庫列表，就可以通過打包工具一鍵完成任務的在線部署。

任務打包完畢後，用戶可以通過UAI-Inference分散式的AI在線服務PaaS平台進行後續管理和維護。該平台可以同時管理上萬個計算節點，並擁有自動請求負載均衡、自動資源管理的功能。用戶只需要將業務部署在平台上，就無須操心其後續的運維，也就是「免運維」。

宋翔表示，雲計算解決了系統運維問題，它沒有解決應用運維的問題。Serverless架構可以解決應用運維的問題，讓UAI-Inference變成以應用為中心、以演算法為中心的服務。

完

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！