智能手機AI跑分哪家強？蘇黎世公布最新排名：華為P20「為AI而生」拔得頭籌

新聞 10-12

近日，蘇黎世聯邦理工大學的新研究調查了Android平台上的深度學習（DL）的現狀，對現有框架和編程模型進行了排名，並確定了在智能手機上運行AI的限制，依此公布了超過10000部安卓手機和晶元的AI Benchmark深度學習處理性能分數。

研究人員研究了四個主要移動晶元組平台的加速資源：高通、海思半導體、聯發科和三星，同時還比較了各種SoC的實際性能結果。AI Benchmark收集了涵蓋所有主要現有硬體配置的結果。

在一系列測試中，華為P20 Pro拔得頭籌，「AI-Score」超過6000分，幾乎是第二名的三倍。P20 Pro具有巨大的優勢，成為第一款配備最先進的麒麟970 SoC晶元的設備，該設備專為AI應用而設計。

OnePlus、HTC和三星也紛紛躋身前五。

為了確定特定智能手機是否功能強大且足夠快以運行最新的深度神經網路來執行基於AI的任務，研究人員對在野外運行的10,000部手機中的九項關鍵AI任務進行了測試：

- MobileNet-V1神經網路的目標識別/分類

- 對象識別/初始分類-V3神經網路

- 人臉識別

- 圖像去模糊

- 基於CPU、NPU、DSP的VG-19神經網路圖像超解析度

- 僅在CPU上的SRGAN神經網路的圖像超解析度

- 語義圖像分割

- 照片增強

- 內存空間限制

測試可分為兩組。在第一個（測試1,2,4,5,8,9）中，研究人員使用完全由Android神經??網路API（NNAPI）支持的CNN模型，因此測試可以在具有合適晶元組及驅動程序的移動設備上進行硬體加速。作為中間層，NNAPI處理更高級別的機器學習框架與設備的硬體加速資源之間的通信。

此外，使用NNAPI避免了有問題的情況，例如系統無法自動檢測AI加速器，而是在CPU上執行計算。

第二組測試（3,6,7）涉及完全在CPU上運行的神經網路。這些測試用於檢查基於CPU的性能的速度。此外，在缺少NNAPI驅動程序的第一組測試中，使用此指令集將計算恢復為CPU。

AI基準測試中使用的深度學習模型的總結特徵

幾款Android設備的基準測試結果

幾個SoC的基準測試結果

表1總結了本Benchmark包含的所有深度學習架構的細節。表2與表3中的結果和網路的相對處理時間以及內存消耗的理論期望高度一致。尤其是，第一個測試的量化MobileNet CNN相比相同的浮點模型僅需要1/3到1/4的RAM，並且其在CPU上的運行速度比Inception-V3 CNN快了一個數量級。第三個人臉識別測試處理的是兩倍大的圖像，並且比第二個測試需要大約兩倍的推理時間，意味著Inception-ResNet-V1和Inception-V3的性能是相當的。

AI Benchmark的研究人員對Android設備上AI演算法的硬體加速前景保持中立態度。他們相信2019年初的情況會變得更加清晰，屆時配備強大新款麒麟980、聯發科技P80、高通和三星Exynos高級SoC的首款智能手機都會上市。

智能手機和平板電腦的計算能力水平正迅速迭代，一些甚至已經接近市場上新型台式電腦的水平。雖然移動設備很容易運行所有標準的智能手機應用程序，但是今天的AI演算法對於高端設備來說也可能過於龐大。

AI獨立處理單元的加入，全面提升了智能手機的用戶體驗。在拍照、解鎖、遊戲等智能手機的廣泛應用中都會應用到AI處理模塊的運算能力，對手機運算速率的提升有極大的影響。

與此同時，基準測試結果已經表明，移動設備上神經網路的發展仍然是一個不成熟的業務，框架不完整，晶元組混合支持網路，結果難以可靠地進行基準測試。

在移動設備上運行人工智慧是蘋果和三星等供應商之間競爭的熱門領域，正如蘋果公司繼續強調其iPhone中「A系列」處理器中的「神經引擎」電路所顯示的那樣。

在華為、蘋果頭部玩家的引領下，擁有先發優勢的玩家們，則更為積極地在AI晶元道路上飛速奔跑。先是8月的最後一天，華為在德國IFA展上率先推出了新一代的AI晶元麒麟980晶元，半個月後，蘋果在新款iPhone上搭載了新一代的仿生晶元A12。幾天前，華米推出了全球智能可穿戴第一顆AI晶元黃山一號。

但作為一種技術，移動神經網路推理仍然是一個需要經過適應並逐步開始發展的領域。

神經網路的硬體加速水平仍然參差不齊。最近的研究正凸顯了在谷歌Android操作系統上運行神經網路的努力有多麼不平衡。

本周在arXiv上發表的題為《PIRM智能手機感知圖像增強挑戰》的論文中，蘇黎世聯邦理工學院計算機視覺實驗室的Andrey Ignatov和Radu Timofte描述了他們如何對與不同類型的在Android手機上運行的神經網路。

正如Ignatov和Timofte所解釋的那樣，產生一系列激烈競爭的原因在於——目前人工智慧開發主要由PC和伺服器上使用的方法主導，很少考慮智能手機受限操作環境中的需求。

「在這些競賽中取得最佳成績的一般方法非常相似：更多層/過濾器，更深層次的架構以及對數十個GPU的更長時間的培訓。」

他們認為，也許可以通過使用更小、資源效率更高的網路來實現非常相似的感知結果，這些網路可以運行在智能手機或平板電腦等常見的攜帶型硬體上。」

如果網路在CPU計算網路所花費的時間（以毫秒為單位）最短最高效，以及對所形成的工作質量的一些度量，對結果進行排序。

該競賽是與9月中旬在德國慕尼黑舉行的歐洲計算機視覺會議同時舉行的。

參與者們面臨的任務和挑戰時提出網路元素的幾何體，例如例如卷積神經網路（CNN），以執行基本的圖像任務，例如改善手機上拍攝的照片的外觀。他們的網路需要用谷歌的TensorFlow框架編寫，必須安裝在不超過100兆位元組的文件中，並且必須在不超過3.5千兆位元組的DRAM中運行。

這些模型由Ignatov和Timofte在兩個設備上運行：其中一台式2017年的摩托羅拉「Razer手機」，在Android 7.1.1上運行；另外是從今年4月開始測試華為P20。

他們指出，對網路進行編程的最簡單方法是使用谷歌的「TensorFlow Mobile」框架，但該框架不支持「Android神經??網路API」的新版本庫，即「Android NNAPI」。 NNAPI旨在從高通、聯發科、華為和三星中選取出各個處理器的硬體細節。

谷歌已經提出了一個新的庫TensorFlow「Lite」來取代移動版本，它確實支持NNAPI，但Lite有其自身的局限性：截至報告時，它處於「預覽」版本中，因此它缺乏對許多神經網路操作的「完全支持」，包括「批處理和實例規範化」。

他們還發現Lite也可以使用比Mobile版本更多的DRAM。至於NNAPI，它不支持所有類型的神經網路。例如，CNN將全部部署在設備或GPU中的AI加速器上，但其他類型的網路不得不求助於在CPU上運行。

總之，神經網路的硬體加速「現在發展得非常快」，但「目前缺乏標準化要求和公開可用的規範並不總是能夠客觀地評估它們的真正優勢和局限性。」

應用AI化正在升級，拼質量拼生態將是未來手機AI晶元的一大趨勢。據Gartner列出的人工智慧手機的十大「高影響力」應用，在2020年，搭載以下10種AI功能的智能手機將走入我們的生活：

1）用戶行為預測

2）用戶身份驗證

3）情感識別

4）自然語言理解

5）增強現實與人工智慧視覺

6）設備管理

7）個人分析

8）內容審查/檢測

9）個性化照相

10）音頻分析

本研究中的AI Benchmark標準

AI Benchmark 是一款安卓應用程序，旨在檢測在移動平台上運行 AI 和深度學習演算法的性能和內存限制。該 Benchmark 包含由直接在安卓設備上運行的神經網路執行的幾項計算機視覺任務。測試使用的網路代表了當前可部署在智能手機上的最流行、最常用的架構，其詳細描述及應用程序的技術細節如下。

蘇黎世聯邦理工學院的研究展示了超過10000部移動設備的定量Benchmark結果。每部設備/SoC 的分數見表 2、表 3，包含每個測試/網路對一張圖像的平均處理時間、可用SRCNN 模型處理的最大可能圖像解析度，以及總計AI分數。這些分數是通過對應設備/SoC的所有結果去除異常值之後取平均得到的。

以下為各大智能手機移動端晶元AI性能評測完整排名：