繼CPU與GPU之後，PC主板上將出現AI晶元

小明評測智能家居網訊：一般大眾使用的行動PC主板上可能很快就會不只有中央處理器(CPU)與繪圖處理器(GPU)，還會配備人工智慧(AI)推理晶元，像是英特爾(Intel)旗下Movidius所開發的視覺處理器(Vision Processor Unit，VPU)。

第一個線索來自於微軟(Microsoft)在日前舉行之年度Windows開發者大會(Windows Developer Day)上發表的Windows ML開放性架構，是專為在Windows操作系統執行機器學習任務所開發；微軟表示，此架構將擴展Windows對Intel/Movidius之VPU的原生支持。

以上訊息意味著Intel/Movidius朝著為VPU找歸宿更往前進了一步，而且目標不只是諸如無人機、保全攝影機等嵌入式系統，還包括Windows筆記本電腦與平板裝置；而Intel/Movidius營銷總監Gary Brown在接受EE Times電話採訪時證實，儘管Windows ML的發表並不是關於VPU與行動PC的整合：「沒錯，你會看到VPU進駐PC主板。」

Windows ML預期將讓Windows操作系統跟上快速升溫的AI潮流，根據Intel/Movidius說法，該架構能為任何既有的AI工作負載動態選擇最適合的硬體，並在包括Intel VPU在內的多種硬體中智能分配任務。

Brown進一步解釋：「我們的VPU能與CPU、GPU共同分攤繁重的AI處理任務，例如機器視覺、臉部辨識、語音、生物辨識等等；VPU也能幫忙騰出CPU與GPU的處理資源。」

Intel/Movidius要將VPU推向主流市場

對此市場研究機構Tirias Research分析師Kevin Krewell接受EE Times訪問時表示：「添加Windows原生支持，將向軟體開發商昭示Movidius VPU將越來越靠近主流市場；」不過他並不很確定PC是否為VPU的「好歸宿」。

「我可以預見VPU對AR/VR產品如新一代Hololens來說是不錯的新添加物，但不確定這是否適合PC──PC內有大量的處理能力，包括CPU與GPU可處理視訊，VPU則是在性能有限的裝置中才能有最好的發揮，例如無人機；」Krewell指出：「或許這是Microsoft將Windows觸角伸向無人機、機器人等新領域的第一步。」

AI世界迅速擴張，也讓Microsoft有跟上潮流的壓力；去年開放性標準組織Khronos著手開發自己的低層ML架構，例如繪圖API，這意圖是成為一種通用API；不過就像從Windows ML之發表可看到的，顯然Microsoft還是需要為Windows量身打造的架構。

另一家市場研究機構The Linley Group資深分析師Mike Demler的觀察是，Windows ML看來像是其他任何一種神經網路執行時期API，而「現在差不多是Microsoft趕上Arm平台的時候了」；他也指出，Windows操作系統原生支持「讓Movidius能更順利進軍Windows筆記本電腦/平板裝置市場」。

在被問到這對Microsoft有什麼好處時，Demler解釋：「開發者可能已經準備好利用CPU、GPU或客制化周邊如Myriad (即Intel/Movidius的VPU)，在Windows平台上執行機器學習應用程序，而Windows ML提供他們一個標準方法；」對終端使用者來說，Windows ML則將「有助於推動機器學習應用程序轉移至客戶端裝置──在這個案例中是PC。」

PC適合什麼樣的AI應用程序？

如果AI處理器是為特定的嵌入式系統量身打造，該晶元被分配的應用程序與任務會很明確，可能是無人機的物體追蹤、防碰撞，或者是保全攝影機的分析取證等功能；如Movidius前任執行長、現任Intel副總裁暨總經理幾年前接受EE Times訪問時所言，把AI推向邊緣的目標，就是賦予嵌入式系統「感知、評估與決策」的能力。

那麼在PC上適合什麼樣的AI應用程序？Intel的Brown建議了很多種，例如：「假設你走進一個房間，桌上有一台Windows平板裝置，它可以看見你、辨識你的聲音或臉，並藉由各種個人助理類型的任務來提供幫助，例如智能音樂搜尋或是為你的照片分類；以視覺為基礎的AI也能幫忙強化視頻會議的影像。」

當然，一切取決於應用程序開發商的想像，看他們想把什麼樣的AI新應用程序放上PC。但Demler認為，PC上的AI應用程序會跟其他行動裝置上的應用程序沒什麼兩樣：「包括生物辨識、AR/VR、圖像處理、物體識別等等。」

目前Brown坦承Intel/Movidius的Myriad X是第一款Windows ML架構在行動PC上利用的AI處理器，但關於該VPU出現在主板上的時間點，他僅表示：「很快。」

看來這顯然並非Intel/Movidius的獨門生意；在被問到其他可能進駐PC的AI處理器競爭對手時，Demler強調這樣的對話僅能聚焦於行動PC：「有大量的Nvidia GPU正在桌面計算機執行機器學習應用程序；Linley Gwennap最近披露，一家名叫Gyrfalcon 的AI加速器新創公司，開發了一款能內建於USB隨身碟的AI晶元，就像是Movidius。」

他指出，訣竅在於能搶進主板：「在中國，還有像是寒武紀(Cambricon)這樣的AI晶元開發商，其投資者包括聯想(Lenovo)。」

認識Myriad X系列晶元

Myriad X預期會是第一款Windows ML支持的AI晶元，該系列產品是在去年夏天發表，當時El-Ouazzne表示，該公司設計這款第三代VPU晶元設計時，「我們嘗試各種方法在不增加功耗的情況下提升神經網路性能。」

具備更多硬體加速功能區塊的Myriad X架構，能在深度神經網路推理任務中提供TOPS等級的運算性能，同時讓功耗維持在1W之內；該晶元採用8 x 9-mm尺寸封裝，整體運算性能為4TOPS。該晶元內部的SHAVE (Streaming Hybrid Architecture Vector Engine) DSP核心，從上一代產品的12個增加為16個，此外以20個經強化的硬體加速器組合添加了神經運算引擎(neural-compute engine)。

El-Ouazzane在去年的Myriad X發表會上解釋，該引擎是為了在不增加額外運算開銷的情況下執行特定任務，例如為支持邊緣提取(extract edges)的深度圖繪製(depth-mapping，這是支持如無人機著陸等應用案例的關鍵功能)，以及為支持更寬廣視角的感測器去彎曲引擎(de-warping engine)，還有對保全攝影機在追蹤與人數統計應用上至關重要、支持超高性能運作評估的光流(optical flow)功能。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！