Nvidia擅於訓練,Xilinx和Intel長於推斷,誰會成為AI晶元大贏家?
來源:內容來自 MoneyDJ,謝謝。
《紐約時報》9 月16 日報導,科技產業板塊正出現劇烈變化。輝達(NVIDIA Corp.)執行長黃仁勛日前在受訪時表示,現在有點像是網際網路剛開始的時候。由黃學東(Xuedong Huang)所領導的微軟(Microsoft)語音識別研究團隊利用輝達所開發的晶元,在一年內就達到識別準確度超越普通人的境界。黃學東說,微軟如果沒有這項武器(基礎設施),至少得花上5 年的時間才能獲得相同的成果。
英特爾(Intel Corp.)在兩年前斥資167 億美元購併現場可程式邏輯門陣列(FPGA)廠商Altera。報導指出,微軟利用Altera 的FPGA 晶元協助改善Bing 搜尋服務的機器學習演演算法。豐田研究所(Toyota Research Institute,TRI)執行長Gill Pratt 指出,能夠將運算工作分散至微小低耗能晶元的機器,就能以接近人類大腦的方式進行運作,因為能源效率是大腦正常運作的關鍵。
機器智能開發主要分成兩個階段:
1. 透過現代機器學習技術,利用大量樣本數據對演演算法進行訓練;
訓練環境通常需要通過大量的數據輸入,或採取增強學習等非監督學習方法,訓練出一個複雜的深度神經網路模型。訓練過程由於涉及海量的訓練數據(大數據)和複雜的深度神經網路結構,需要的計算規模非常龐大,通常需要GPU集群訓練幾天甚至數周的時間,在訓練環節GPU目前暫時扮演著難以輕易替代的角色。
2. 在需要解讀現實世界數據的終端應用中執行演演算法。第二階段也被稱為「推理」,在裝置內執行推理有許多好處,包括降低延遲、功耗和避開隱私問題。
推斷(inference)環節指利用訓練好的模型,使用新的數據去「推斷」出各種結論,如視頻監控設備通過後台的深度神經網路模型,判斷一張抓拍到的人臉是否屬於黑名單。雖然推斷環節的計算量相比訓練環節少,但仍然涉及大量的矩陣運算。在推斷環節,除了使用CPU或GPU進行運算外,FPGA以及ASIC均能發揮重大作用。
Movidius(英特爾旗下公司)總經理Remi El-Ouazzane 曾表示,Movidius 神經計算棒內建的「Movidius Myriad 2 覺處理單元(VPU)」提供強大且有效率的表現,可以在1 瓦的功率下提供超過每秒1,000 億次浮點運算性能、以便直接在裝置上執行即時深度神經網路。他說,這使得許多AI 應用都能在離線狀態下部署。
英特爾2016 年9 月宣布收購行動圖像處理技術開發商Movidius Technology。Movidius 與英特爾旗下現有資產的結合將使得全球半導體龍頭得以在電腦視覺、深度學習解決方案(從裝置到雲端)領域處於領先地位。
英特爾並於2016 年8 月宣布購併一家名為Nervana Systems 的人工智慧新創企業。同年5 月,英特爾宣布收購電腦視覺(CV)技術公司Itseez Inc.。Itseez 可協助客戶創造出自動駕駛、數字安全與監控等創新深度學習CV 應用產品。
英國《電訊報》「Telegraph Money」專欄8 月13 日列舉7 檔自駕車、AI/機器學習、機器視覺、大數據概念主要受惠股,當中提到賽靈思(Xilinx)所生產的晶元就是負責機器學習過程中的推論部分。
賽靈思表示,夥伴廠商利用FPGA 晶元進行基因體定序與優化語音識別所需的深度學習,察覺FPGA 的耗能低於GPU 且處理速度較快。相較於GPU 只能處理運算,FPGA 能以更快速的速度一次處理所有與AI 相關的資訊。
今天是《半導體行業觀察》為您分享的第1400期內容,歡迎關注。
點擊展開全文


※讀懂晶元後端報告
※9月18日18:00 KLA-Tencor 2018校招宣講會登陸摩爾直播
※電路人生——微電子集成電路大牛Willy Sansen自傳
※一億多歐元一台的設備供不應求,這家荷蘭公司二季度表現亮眼
※Gartner:今年半導體營收或衝上4千億美元
TAG:半導體行業觀察 |