Forrester研究：人工智慧需要在內存和計算間取得平衡

大數據應用推動了對於讓內存更接近計算資源的架構的需求，但人工智慧和機器學習進一步證明了硬體和硬體架構在成功部署中發揮的關鍵作用。不過有一個關鍵問題，那就是內存應該駐留在哪裡。

大數據應用推動了讓內存更接近計算資源的架構需求，與此同時人工智慧和機器學習進一步證明了硬體和硬體架構在成功部署中發揮的關鍵作用。不過有一個關鍵問題，那就是內存應該駐留在哪裡。

由美光（Micron Technology）委託進行的研究發現，有89％的受訪者表示，計算和內存在架構上緊密相連是至關重要的。這項由Forrester Research進行的調查還發現，內存和存儲是目前關於人工智慧和機器學習存在硬體局限性方面的最常見問題。有超過75％的受訪者認識到，他們需要升級或重新構建內存和存儲以控制架構上的局限性。

人工智慧調和了大數據和數據分析過程中已經發現的挑戰，因為機器學習通過神經網路對龐大的數據矩陣進行多次累積操作。隨著有更多結果產生，這些操作也會反覆進行，以生成每次都是最佳路徑和最佳選擇的演算法，而且演算法是通過處理數據進行學習的。

美光公司企業戰略副總裁Colm Lysaght表示，因為有太多的數據，獲得必要內存的常見解決方案就是增加更多的DRAM。這將使性能瓶頸從原始計算轉移到數據所在的位置。「內存和存儲就是數據所在的地方。我們必須把數據帶入CPU，然後再返回，如此反覆，因為這些龐大的數據集需要被處理。」

Lysaght說，讓計算和內存更緊密地結合在一起，意味著可以節省電力，因為在內存和計算之間就不需要往返太多次。「這會提高性能，因為數據處理直接在在所需的位置。」

打開今日頭條，查看更多圖片

美光認為，現有內存和存儲技術（例如DRAM和3D NAND SSD）為人工智慧架構提供了硬體，同時美光也在研究更新的技術（如內存處理器架構）同時支持開創性的初創公司。

Lysaght說，有很多不同的方法可以打造出更好的架構。拿神經形態處理器舉例來說，它在內部使用神經網路，並將內部核心數量分解為更多的較小核心。「因為要大量的數據要進行處理，所以讓更多的核心反覆執行相對簡單的操作是一種更好的解決方案，」Lysaght說。

有一家對開發新架構感興趣的內存公司是Crossbar。與Gyrfalcon Technology、mtes Neural Networks（mtesNN）、RoboSensing等公司一起，Crossbar打造了SCAiLE（用於邊緣學習的SCABLE AI），一個致力於提供加速、節能型人工智慧平台的聯盟。

Crossbar公司戰略營銷和業務開發副總裁Sylvain Dubois表示，該聯盟將結合先進的加速硬體、電阻式RAM（ReRAM）和優化神經網路，打造就緒的低功耗解決方案，無需監督學習和事件識別能力。

Dubois表示，很多企業面臨的挑戰是，他們希望在設備上採用人工智慧但是又不知道該怎麼做，無論是智能揚聲器、智能攝像頭還是智能電視。該聯盟的目標，是提供一個將所有必要部分組合在一起的平台。

Crossbar的貢獻在於內存（特別是ReRAM），將通過各種輸入（包括文本、關鍵字、GPS坐標、感測器可視數據，所有這些都是非結構化數據）處理機器學習系統中的數據。

Dubois設想了一種存儲器陣列架構能夠以非常寬且高度並行的方式由這些實例中的每一個特定處理代碼讀取，其中在邊緣設備中並行讀取一千個位元組。

「如果匹配了，你就會知道該怎麼做。如果沒有匹配，那麼這就是我們所說的學習曲率。」

例如，對攝像頭感測器來說，該系統將能夠在ReRAM陣列備用位置保存新事件或一組功能。「下次當有類似事件在這個攝像頭前發生的時候，攝像頭本身就能夠在沒有任何訓練的情況下檢測到該事件，」Dubois說。

這提供了一種完全不同的人工智慧方式，因為如果出現需要快速決策的意外事件（例如關注安全性的交通場景）時，它不需要依賴於雲中的大量訓練能力。

Forrester Research的這項研究表明，有越來越多的企業將在公有雲和邊緣位置運行分析，從而在邊緣實現更多的機器學習。有51％的受訪者表示，他們正在公有雲中運行分析，預計未來三年這一比例將增加到61％。此外，有44％的人現在處於分析階段，預測到2021年這一比例將增長到53％。

Forrester基礎設施和運營高級分析師Chris Gardner對於硬體的重要性感到驚訝，特別是存儲和內存。

「我預計會看到更為圍繞硬體和治理問題的軟體可編程性問題。當然，確實會出現這種情況，但不會達到其他因素那樣的程度。「

他表示，一個主要的研究結果是，有大量工作是在內存本身進行的，避免了對存儲的需求。但值得注意的是，對內存和存儲的需求取決於你正在做什麼。根據Gardner的說法，訓練模型需要大量的內存和存儲空間。除外之外，你根本不需要任何東西。

Crossbar最近成立了一個打造人工智慧平台的聯盟，提供針對人工智慧應用的內存產品，例如帶有嵌入式ReRAM的P系列MCU。

Gardner說，在完美的情況下，企業希望擁有一個數百GB的RAM大型環境。但實際上，他們不得不自己構建或者付費讓供應商來實現，而且他補充說，所需要的是硬體方面的轉變。

Gardner說：「我們需要更多以內存為中心的架構，」計算需要圍繞內存以及存儲，而不是讓計算本身成為中心。

「這並不是說當前計算架構和我們接近計算架構的方式很糟糕，但這可能並不是做人工智慧和機器學習最有效的方式。」

Gardner還提到的邊緣計算，有一個場景是某個舉行大型體育賽事的體育場內安裝了很多攝像頭，產生了大量需要快速處理的數據，以確定是否存在危險情況。「他們可以把這些數據發送到雲端並返回，但是他們沒有時間去這麼做，他們必須儘快處理這些數據。」

未來還將有一些機器學習是在雲中進行的，然後返回到物聯網設備，但是其中一些設備將變得越來越智能化，並且可以自主地進行機器學習，共享回雲端，以及其他設備。對於內存製造商來說，這意味著商用組件製造商要持續進行轉型，而且要重新編譯應用以利用人工智慧和機器學習工作負載所需的、以內存為中心的架構。

但是我們現在還處於實驗階段，還沒有一個真正的採用內存為中心、在實驗環境之外有很多延遲表現的架構。

Gardner說：「幾十年來我們一直是CPU為中心的心態，想要擺脫這種想法是非常具有革命性的。」

去年秋天，美光宣布投資1億美元用於人工智慧，並在實驗室中打造了一個類似DRAM的產品，目標是在2021年進行採樣，同時美光的研究人員也在研究處理器內存架構，這也是其他很多初創公司正在研究的領域。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！