當前位置:
首頁 > 新聞 > Facebook稱AI晶元仍處於初級階段,業界需要更多硬體方案競爭互補

Facebook稱AI晶元仍處於初級階段,業界需要更多硬體方案競爭互補

雷鋒網消息,在舊金山舉行的國際固態電路會議上,Facebook AI研究團隊負責人Yann LeCun表示,公司正在積極開展機器學習晶元方面的工作並對未來充滿希望,相信晶元行業會有很多解決方案。

對於谷歌和Facebook這樣的公司來說,開發專用的AI晶元,顯然是降低成本的需求,更重要的也是開發自身的定製晶元,以支持自家的AI程序。Yann LeCun在之前的採訪中提到了自主晶元開發的可能性,不過他表示, Facebook的傳統做法是與硬體供應商合作,希望與多家晶元公司合作開發新設計,吸引他們構建對公司有利的產品。

AI晶元在未來會發展成什麼樣?在回顧了歷史之後,Yann LeCun認為,首先我們迫切地需要低功耗晶元處理來自移動設備的所有感測器數據,因為一些數據對於帶寬和延遲較為敏感,在發送到雲端之前需要預先處理。

而後,在計算的中間段上,通常是傳統的離線神經網路訓練和傳統雲端推理。這些任務都會消耗大量資源,因此科技公司急需獲得更加高效的硬體。

在深度學習食物鏈的最頂端,Facebook和亞馬遜、谷歌的研發部門普遍需要在主流的NVIDIA GPU之外能有更多解決方案。當前,NVIDIA GPU是深度學習訓練事實上的解決方案。Yann LeCun表示,並不是因為它們(NVIDIA GPU)在機器學習任務領域做的不好,而是因為我們需要未來計算的另一種思路,作為目前GPU短板的補充。

下一代晶元的架構仍然是一個懸而未決的問題。顯然,未來的神經網路體量將遠遠超過當前,因為我們可能需要輸入整個視頻的像素進行推理,從而預測視頻片段的運動。但與此同時,這些操作可能必須在與當今基於矩陣乘法硬體不同的處理架構中進行計算。Yann LeCun認為,矩陣和張量是當今人工智慧計算的基石,但在未來的AI計算中,它們可能並非最佳解決方案。

他表示,當前的晶元基本上都是對大量4×4矩陣乘法進行優化,如果你可以把整個神經網路簡化為4×4矩陣乘法,這些硬體當然很好用,但與此同時,這些硬體可能無法對大量卷積運算進行優化。

怎樣可以取代它們?Yann LeCun稱目前還不知道,但他認為真正的硬體天才必須發明新的方法來做這些事情。

在某種程度上,這和目前深度學習研究者在思考的執行操作相同:訪問數據不再通過交互作用,而是通過純粹數組。你所擁有的就是指針的數組,指向所需的數據,這對於處理基於計算圖的數據非常有效。Yann LeCun稱,這可能需要「智能緩存」等優化內存流量的方法,或提前研究圖形的某些部分。

計算的最後是乘法相加,問題是能不能把它簡潔地寫成一堆點積的形式,或者一堆矩陣-向量的乘法,或者一堆矩陣的乘法。目前的假設是,可以把它簡化成一堆矩陣的乘法,但不認為這就是答案。

Yann LeCun稱,在整個AI的歷史中,研究人員在該領域提出突破性見解之前,通常硬體方面已經取得了很大的進步。對新晶元設計和硬體架構的關注表明,我們需要在基本計算方面取得根本性突破,以防止今天的AI成為死胡同。

他表示,無論新的晶元將以何種形式構架,他相信以AI為核心的硬體可能會接管越來越多的計算總體工作負載。

喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 雷鋒網 的精彩文章:

30億美元,施樂輝或收購醫療器械公司NuVasive
數據科學中必須熟知的5種聚類演算法

TAG:雷鋒網 |