5G時代的智能邊緣計算AI-EC平台

雷鋒網按：本文作者吳強，雷鋒網專欄作者。

2017年9月初華為透露：首款搭載AI晶元的商務手機將於10月發布並提出：Mobile AI=On_Device AI + Cloud AI。無獨有偶，一周後蘋果公司也發布了搭載A11可以人臉識別的史上最貴手機。那麼On_Device AI將不可避免嗎？本文作者提出了另外一種選項供參考：Mobile AI=5G_Device + AI-EC。

所謂的智能邊緣計算（AI over Edge Computing, 以下簡稱AI-EC）是指在5G邊緣（可理解在基站端）提供各類AI推理演算法資源和相應的可編程AI計算資源的公共平台。其中的演算法資源，主要以客觀世界目標的視覺識別，音頻識別以及自然語言處理為代表的通用類的AI推理演算法軟體。而另一個可編程AI計算資源是由以GPU及Tensor RT為代表的軟硬體伺服器支撐平台，用以承載和加速前者AI演算法的推理計算，也可承載在線弱監督學習的訓練或其他GPU應用。這種AI-EC平台所提供的AI推理服務如同在線函數庫調用一樣，你給它視頻或圖片，它返給你識別結果；你給他中文語音，它給你翻譯成目標語言。今後億萬個物聯網終端，智能穿戴等5G終端不必非得安裝智能晶元及相關軟體同樣可以擁有智能，因為通用的AI推理功能已從終端剝離並轉移到AI-MC平台上。（說白了就是智能產業將被縱向分割：會做終端的專做終端，懂演算法的專做演算法，5G將成為產業應用上下游的匯流排紐帶）

AI-EC的架構

• 深度學習的推理服務。霧智能終端將視頻，音頻，語言等上傳至AI-EC 平台，由其平台上相關已訓練好的推理模塊進行推理，然後將結果反饋給霧智能終端。

• 高性能計算池服務。很多對GPU依賴的應用可以不受時間、空間及移動速度的限制。例如現場指紋推理，哈希演算法(對加解密和區塊鏈的支撐)，快速傅立葉變換，蒙特卡羅等等。

• 「串流」雲遊戲服務。5G時代的雲遊戲市場將會進一步增大，玩家不必擁有獨立顯卡，也可以通過「串流」黑科技來感受類似效果的雲遊戲。AI-EC的雲遊戲模塊可以根據玩家的操控將遊戲效果渲染成視頻流下推給玩家的5G終端，玩家不受地點限制可以在高鐵地鐵上。例如GeForce Now雲遊戲，其官方建議20Mbps則可實現720P畫質、60fps幀速；除此之外，網路時延需小於60ms。

• 視頻業務審核服務。5G時代手機戶外現場直播重大活動或事件將成為可能。而直播視頻中是否有不合法的內容（如暴力，色情，極端宗教及敏感議題等）必須藉助AI來實施審核並採取相應措施。

• VR等實時渲染服務。隨著渲染需求的不斷加大以及VR/AR等應用的日益普及，坐在飛速行駛的高鐵上也可以感受VR，可以即時渲染出個性化產品設計效果，裝修設計效果等，影視短片的後期效果等。例如可以即時渲染出女士本人穿上網購服裝的效果。

AI-EC的特點

a. 網路時延優勢：邊緣位置優勢保證了時間敏感的實時類應用的AI推理時延要求。

b. 網路分布優勢：AI-EC讓廣泛分布的推理申請在末端就得到結果，既減少了網路流量，又降低了雲中心集中推理的計算壓力。例如上萬個監控視頻的推理需求，動態應急布設監控及無人機監控等。

c. 智能終端減負：物聯網、智能穿戴等終端的體積，重量，功耗，成本以及價格都將因此而降低，同時也降低了終端的研發門檻，有利於5G終端的廣泛普及。

d.產業布局靈活：人工智慧的各種演算法發展日新月異，組合千變萬化，研發的人員及硬體成本越來越高，這些將由AI-EC營運商解決。AI應用產業被縱向分解成演算法服務商和終端供應商。

e. 非商業屬性：AI-EC平台一般將由國有控股的電信運營商來承建，其公共屬性有利於將人工智慧服務作為像電力、天然氣和通訊網路一樣的市政設施供應給千家萬戶。有利於政府、教育、醫療，軍工等公共機構充分利用AI-EC平台上的演算法資源和計算資源，有利於相關部門對人工智慧產業發展進行規劃，引導，管理及法律法規制定等，有利於將5G與AI-EC整體打包像高鐵一樣輸出給其它國家。

• 人臉識別鑒權技術：目前我國公安部相關研究所已立項「多維身份可信認證系統」，當海關、機場，車站，酒店，銀行以及特殊單位等機構需要鑒權時，應有統籌法律法規約束。

• 醫學影像輔助診療：同樣應由國家相關部門在大數據標註與訓練，隱私保護，相關識別技術的商業化與非商業化推廣及醫院相關區域的AI-EC覆蓋等，應有統籌法律法規約束。

• 其它公共事業的AI部署：如AI教學、AI職業培訓、科研院所的公用計算資源部署、AI市政公共設施、智能交通管理、AI家庭設施等部署，管理，法律法規約束等。

AI-EC帶來的選擇

a. 霧智能終端與硬智能終端的選擇：前者適合在網路覆蓋良好的城市區域內使用通用類的、複雜度高的、變化快的、對功耗和成本要求比較苛刻的終端AI智能應用；後者允許在網路覆蓋不確定的鄉村，山區，荒漠，海上等區域，使用AI需求相對固定的、變化少的以及對時延要求極端苛刻的AI智能應用。

b. AI-EC霧端還是商業雲端的選擇：對時延要求高的，集中推理壓力大的，業務敏感或不適合在商業雲使用的應用可選擇前者。

第四次(人工智慧)產業革命的春風已經撲面而來，它開始漸漸地衝擊著各個傳統行業甚至是人類文明。東西方的主要高科技巨頭都在AI計算資源和AI人才資源爭奪上以及AI產業事實標準的制定上豪賭般地投入，無疑他們是有遠見的。作為經濟大國的中國在4G時代已通過網購，手機支付，共享單車等業務嶄露頭角，那麼在5G時代是否可以從頂層設計來與時俱進，通過AI-EC來推動人工智慧、物聯網、智能穿戴等終端在各行各業的普及，從而提高效率或解決原來解決不了的問題，幫助中國早日成為科技強國並引領人類在AI領域的發展！

本文僅代表個人觀點，意在拋磚引玉。作者才疏學淺，之所以願意獻醜撰寫本文是因作者認為：人工智慧的時代更需要跨行業交流及腦力激蕩的，如能引發其它相關行業人士的思考，則達到了本文的目的。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！