谷歌千元級TPU晶元發布,TensorFlow更換Logo推出2.0最新版
栗子 曉查 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
今天凌晨,谷歌一年一度的TensorFlow開發者大會在加州舉行。明明應該是一場軟體盛會,卻被生生開出了硬體發布會的味道。
谷歌在會上發布了兩款AI硬體:售價僅千元搭載著TPU的開發板;可以為Linux機器學推理加速的計算棒。它倆取代軟體成了本次發布會的主角。
當然還有照例升級的TensorFlow 2.0 Alpha版,版本號提升的同時,Logo也變成時下流行的扁平化設計。
在移動設備運行AI模型越來越主流的今天,用於部署在邊緣設備上的TensorFlow Lite終於迎來了1.0版。
下面就讓我們一起來回顧這場發布會的亮點吧。
發布會主角Coral
Coral開發板(Coral Dev Board)是一款售價150美元(摺合人民幣約1000元)的小型計算機,具有可拆卸的模塊化系統和一個定製的TPU晶元,類似於樹莓派。
Coral中的Edge-TPU尺寸大約只有一枚硬幣的1/4,擁有1GB的LPDDR4內存和8GB的eMMC存儲,安裝Mendel版Linux或者Android,可以進行本地的離線運算。
它不訓練機器學習模型,而只是用TensorFlow Lite進行推理預測,因此比全棧框架更節能。
Coral能夠以每秒30幀的速度在高解析度視頻上運行深度前饋神經網路,或者以每秒超過100幀的速度運行MobileNet V2這樣的單一模型。
這位妹子現場用Coral展示了一個有趣的圖像分類應用。只需要開發板加攝像頭,再加幾個按鈕而已。
右邊的四個按鈕,各自代表一個類別。
給AI看一隻橘子,連按十幾下黃色按鈕。
再看到橘子的時候,黃燈就會亮起。
再給AI看TF的標誌,也是橙色的,連按十幾下紅色按鈕。
然後,再看到標誌的時候,紅燈就會亮起。
這時候,就算再把橘子放到攝像頭前,AI也不會被迷惑,毫不猶豫地點亮黃燈。
同時,谷歌還發布了一款Coral USB加速器,體內同樣包含一顆Edge TPU,可以在任何64位ARM或x86平台的Debian Linux上運行。
Coral USB加速器售價75美元,可以加速樹莓派和Linux系統的機器學習推理。
谷歌不是第一個發布此類產品的廠商,英特爾早在幾年前就發布過USB神經網路加速計算棒,但是神經計算棒只支持Caffe,而Coral支持Caffe、TensorFlow和ONNX。
由於PyTorch能轉成ONNX,所以Coral實際上也能支持PyTorch。
連競爭對手Facebook的大神Yann LeCun,也在推特上給出一個好評:「Nice feature rundown at Hackaday」。
此外還有一款售價25美元、500萬像素的相機配件。
前兩款硬體已經可以去官網訂購,和查看詳細技術文檔:
https://coral.withgoogle.com/
TF 2.0 Alpha
TensorFlow團隊表達了對Keras更深的愛。
用tf.keras高層API,可以有效簡化TF的使用。
團隊說,從前tf.keras的設定用來做小模型的,要擴大規模怎麼辦?
估計器 (Estimators) 就是強大的工具。
在2.0里,tf.keras已經整合了Estimators的能量:
如此,便不用在一個簡單API和一個可擴展API之間,再做多餘的選擇。
死磕Keras,扔掉其他API,就是為了減少重複。
除此之外,就是Eager Execution變成了默認設定。有了它,除了執行起來更加快捷,debug也容易一些:
「可以使用 Python 調試程序檢查變數、層及梯度等對象。」
快速上手
如果想要絲滑入門TF 2.0的Alpha版,可前往TensorFlow新鮮設計的友好網站,那裡有教程和指南:
https://www.tensorflow.org/alpha
團隊溫馨建議,先觀察一下「Hello World」示例,分為初學者版和老司機版:
初學者版,用的是Keras Sequential API,最簡單的入門大法;
老司機版,展示了怎樣用命令式來寫正向傳播、怎樣用GradientTape來寫自定義訓練loop,以及怎樣用tf.function一行代碼自動編譯。
然後,再去讀Effective TensorFlow 2.0等等指南。
不止這些,還有AutoGraph指南,代碼升級指南,以及其他Keras相關指南,一應俱全。
還有新課
隨著TF 2.0 Alpha版一同發布的,還有兩門深度學習課程,零基礎可食用。
其中一門,吳恩達老師參與了課程開發,叫做針對人工智慧、機器學習和深度學習的TensorFlow入門:
這是一套實踐課程,會教你在TensorFlow裡面搭建神經網路、訓練自己的計算機視覺網路,再利用卷積來改善網路。
課程分四周。
第一周,了解一種編程新範式。
第二周,入門計算機視覺。
第三周,用CNN增強計算機視覺。
第四周,給網路餵食真實世界的圖像。
另一門,是優達學城的免費課,叫做針對深度學習的TensorFlow入門。
第一節課還在了解課程大綱,第三節課就已經要訓練自己的模型了:
現在,前四節課已經上線。第五節待續中。
給手機用的TF Lite
介紹完TF 2.0後,谷歌TensorFlow Lite的工程師Raziel Alvarez上台,TF Lite 1.0版正式上線。
TensorFlow Lite是一個為移動和嵌入式設備提供的跨平台解決方案。谷歌希望讓TensorFlow能夠運行在更多設備上。
除了PC和伺服器以外,我們的生活中還有像手機、智能音箱、智能手錶等設備需要用到機器學習模型,而它們都是無法運行TensorFlow的。
要讓這些設備運行TensorFlow需要面臨以下挑戰:計算力不足、存儲空間有限、電池限制。
必須要有個輕量級(Lite)框架能將機器學習模型部署在移動和IoT設備上的。
TensorFlow Lite就是為此而誕生,它於2017年5月在谷歌I/O開發者大會上首次推出,目前它已經部署到超過20億台設備中,主要是通過以下一些軟體,包括谷歌官方應用和兩家來自中國的應用——愛奇藝、網易。
接著谷歌邀請了來自中國的網易機器學習工程師Lin Huijie介紹了TensorFlow Lite在「有道」中的應用。
Lin Huijie說,網易用它實現了30~40%的圖片翻譯加速。
谷歌表示為移動設備部署TF Lite非常方便,只需用TensorFlow打包好模型,再用TF Lite轉換器將之轉化為TF Lite模型。
經過TF Lite的優化後,設備在CPU上的性能達到原來的1.9倍,在Edge TPU上的性能最高提升了62倍。
其他
除了以上幾款硬體和軟體外,谷歌今天還發布了TensorFlow Federated,和TensorFlow Privacy。
TensorFlow Federated是一個開源框架,用來訓練來自不同位置數據的AI模型。TensorFlow Privacy能讓開發人員更容易訓練具有強大隱私保障的AI模型。
另外在發布會上亮相的有:TensorFlow.js 1.0;Swift for TensorFlow 0.2。
—完—
訂閱AI內參,獲取AI行業資訊
購買AI書籍
誠摯招聘
量子位正在招募編輯/記者,工作地點在北京中關村。期待有才氣、有熱情的同學加入我們!相關細節,請在量子位公眾號(QbitAI)對話界面,回復「招聘」兩個字。
喜歡就點「好看」吧 !
※馬斯克激進冰冷,特斯拉猶如邪教,但我在這裡工作卻超級滿足、熱血沸騰
※加州大學10校抵制最大學術出版商:請把我們的研究,向全世界免費開放
TAG:量子位 |