天數智芯李雲鵬：數據驅動的春天即將來臨 | CCF-GAIR 2019

編者按：7 月 12 日-7 月 14 日，2019 第四屆全球人工智慧與機器人峰會（CCF-GAIR 2019）於深圳正式召開。峰會由中國計算機學會（CCF）主辦，雷鋒網、香港中文大學（深圳）承辦，深圳市人工智慧與機器人研究院協辦，得到了深圳市政府的大力指導，是國內人工智慧和機器人學術界、工業界及投資界三大領域的頂級交流博覽盛會，旨在打造國內人工智慧領域極具實力的跨界交流合作平台。

7 月 13 日的 AI 晶元專場，南京天數智芯科技有限公司（以下簡稱天數智芯）創始人、董事長兼 CEO 李雲鵬帶來了主題為《海量數據時代的全算力》的演講。

天數智芯創始人、董事長兼 CEO 李雲鵬

李雲鵬首先提到，澤位元組時代（ Zettabyte Era）數據體量十分龐大，數據的收集、組織、分析和運用都將對社會和科技的發展帶來不可忽視的影響，這一切都對算力有了更高的要求。但隨著數據量的不斷增長、演算法不斷演進和迭代，對極致算力的需求也越來越多，此時就需要將軟硬體充分結合起來。這也是天數智芯決定打造高性能 AI 晶元的原因之一。

雷鋒網了解到，天數智芯已經布局了雲端、邊緣端和終端的 AI 晶元，將針對不同的市場，提供雲、邊、端的算力支持；其 GPGPU 流片計劃正在如期推進，據現有 PPA 數據顯示，對比 Nvidia V100，會有三倍的功耗比提升。而且，在6月中旬的斯坦福 DAWN Bench 深度學習推理榜單中，天數智芯的圖像識別性能斬獲第一，性能比此前榜單中表現最優的機構提升了30%，與華為、寒武紀、阿里雲分列榜單前四位置。

在大會演講結束之後，李雲鵬接受了雷鋒網的採訪，精彩內容節選如下：

雷鋒網：您一直在強調全算力的重要性，您認為，天數智芯在這方面的優勢什麼時候能發揮出來？

李雲鵬：機會是留給有準備的人的。天數智芯雖然 2015 年才成立，但在成立之前，我們也花了很長時間來思考究竟要做什麼。眼下，隨著 5G 逐漸普及，數據不斷累積，各行各業都需要從海量數據當中提取自己所需要的、具有價值的數據。在接下來兩三年里將爆發數據驅動的「春天」，我們認為，天數智芯恰巧趕上了這一波浪潮。

雷鋒網：天數智芯將會推出高性能雲端 GPGPU Big Island，請問這是出於什麼樣的考慮？

李雲鵬：如果是對一個沒有做過晶元設計公司來說，這種選擇肯定是有風險的。不過，天數智芯不一樣。首先，天數智芯有一支可以說是國內唯一的完整高端晶元設計團隊，有著豐富而完整的高端晶元產品研發經驗和技術實力。其次，天數智芯通過即將推出的邊緣端AI晶元EPU，將產品研發設計全流程打通，進一步降低風險，提前獲得市場反饋來為高性能雲端晶元積累經驗。

雷鋒網：雲端市場代表相對穩定的需求，產品迭代的周期也會更長，這會對公司的營收產生影響嗎？

李雲鵬：從某種意義上來說確實是這樣，因為一款最新的伺服器產品問世之後，一開始其實沒有多大的銷量。但研發周期長其實是件好事，因為我們說的穩定不是看某一個模塊的穩定，而是整個系統，軟硬體協同的穩定。我大學第一堂課的老師，說了這麼一句話，「坐下來，鑽進去，好好做學問」。在高端通用晶元和基礎軟體的領域也是這樣，需要長時間的投入也需要持之以恆的決心。

以下是李雲鵬大會現場全部演講內容，雷鋒網作了不改變原意的整理及編輯：

謝謝各位，謝謝大會主辦方，這是我第二次來到 CCF-GAIR 的會場，今天報告的主題是《海量數據時代的全算力》。

什麼是 Zettabyte Era？數據的累計達到一定體量，收集、分析、運用數據必然推動社會的發展。無論是 Collect、Organize、Analyze、Infuse 都會遇到這個問題。作為創業公司，什麼是根本性的需求，我們的答案非常簡單——隨著數據體量不斷增加、演算法不斷演進和迭代，對數據的處理本身需要所謂的算力。

那麼，什麼是算力？我們的產品是做哪部分的算力？我們說提供全面的算力，這個「全面」又指什麼？舉個例子，這張圖片上有一輛賽車，無論是在北京二環開車，還是在上海高架上開車，車況、車流、天氣情況都會與車輛的駕駛速度密切相關。換句話說，汽車的引擎可以定義為硬體，整個路況、車流、天氣和操控定義為軟體，從這個意義上來講，只有軟硬體的充分結合才能提升極致的算力。

很多公司要麼做硬體、要麼做軟體、要麼做 AI 的演算法，其實這對整個合作來說是非常大的 挑戰，傳統業界的迭代升級大概需要花十年的時間，硬體的研發周期相對來說以年為計算，而軟體隨著開源的發展，迭代周期越來越快，軟體平均兩周有很大的迭代，具體可以說是以天為計算。

不同領域有不同的專長，對天數智芯來說，我們在海量數據處理時代看到了自身發展的機遇，即為具體 AI 應用提供相應的軟體平台，同時提供極致算力的硬體服務或是晶元的服務。

我們技術的開發邏輯是這樣的：首先從軟體算力切入，軟體算力是什麼？是如何利用軟體來提升已有硬體的平均算力。如今，天數智芯的中間件產品可以和市場上已有的任何一款開源計算框架完美配合，能在已有的硬體處理器上達到更高的處理效率。隨著中間件的推出和上層應用的不斷落地，我們也將推出相應的晶元產品，為已有的硬體產品和已有的系統解決方案提供平滑的、透明的遷移。

那麼，我們如何做算力呢？行業內一共有三種方式：一是通過寫代碼；二是通過中間件；三是選擇基礎的運算元層級。天數智芯就是選擇了第三種路徑，即所謂的基礎軟體層加速技術。因為，整個計算力受到多方面因素影響，不僅要面臨處理器的問題，還要面臨 I/O 的問題；不僅要解決機器越做越大，還要解決機器越做越多的問題，包括新的標準化硬體不斷地推出。

在上個月的斯坦福 DAWN Bench 深度學習推理榜單中，天數智芯和另外三家國內企業分別為前四名，我們取得了第一名的好成績，亞馬遜是第五名。

還有一個主要的問題關於 AI 晶元。每當談及晶元的時候，大家都會想到美國搞發明、日本把它做小、中國把它做便宜。而且，一談到晶元，大家首先關注的就是量，沒有量做什麼晶元？談到量的東西或者是可能達到現象級的量，我喜歡用 Gompertz 曲線，上一個現象級的需求來自於手機。

關於全球晶體管市場的需求，從上圖 2010 年到 2015 年的需求數據來看，我們即將面臨半導體市場的增長大潮。市場上有各種各樣的半導體公司，有成熟的、有初創的。晶元的研發也有不同的開發策略，一般是根據需求和性能來決定開發的策略。我們的 AI 晶元需要什麼樣的功能？過去兩年大家都在說摩爾定律已經不行了，CPU 解決不了 AI 大數據時代的問題，所以要用 GPU AI 晶元。

Makimoto 對半導體的發展也有貢獻，比如 Makimoto"s Wave。從 60 年代以來，半導體的發展趨近標準化和定製化。如今已經是 2019 年，過去數年我們一直在呼喚AI 晶元和高性能計算晶元，如果 Makimoto』s Wave 仍然有效的話，下一個波峰將是超高靈活度集成的晶元，同樣的標準化硬體也發生在 90 年代末期和 2000 年代中期的 FPGA 時代和英特爾時代。

硬體的開發策略是要提供超高靈活度的高性能處理晶元，這種情況下，市場上有沒有同款晶元？ 天數智芯提供了很好的選擇，除了做計算以外，還提供一個完整的、可編程的標準性架構，為此針對當前流行的數據驅動型應用，包括 AI 演算法本身做專門的定製和優化。我們的 IP 提供完整的靈活度，我們針對不同的市場，不僅有雲，還有邊、端，或是任何一個需要相應算力支持的地方，這是很重要的定義。

天數智芯在過去三年的努力中，已有的數據在雲端訓練好可以使用邊緣計算系統和平台套裝，無縫的遷移至硬體端。今天看到所有在試驗車上運行的應用，是基於 NVidia TX2，相應的 Iluvatar EPU 產品也將在近期發布，做到完整的軟硬體結合的客控系統。

關於Edge Cloud。5G 來了，我們的手機離基站越來越近了，但基站離數據中心還很遠，不斷產生的計算需求將會向邊緣端湧入。邊緣端是否具備足夠大的計算能力？為此我們也推出了終端晶元解決方案。

我的老東家是 Oracle。記得2009 年 Oracle 把惠普的 CEO 馬克·赫德招過來，馬克·赫德給中層開會的時候說，你們知不知道任何一家數據中心買惠普的產品，他的生命周期有多長？答案是20年。這就意味著數據中心持續的變化相對小。對標 Nvidia V100，我們相應的流片計劃正在正常推進，據現有 PPA 數據顯示，將會有三倍的功耗比提升，就算是比較下一代的 V100 產品，天數智芯的 BI 依然有 75% 性能提升。

我們如何做一款靈活的算力晶元，配合開源生態和已有生態的軟體，為整個系統提供支撐？這是我們所謂協同設計的基礎概念，如何 Meet In The Middle，兩者之間是否能融合？這個時候，物理學概念動態平衡 Dynamic Equilibrium 的有趣之處就體現出來了，天數智芯兩方面（軟體和硬體）的業務具備動態平衡的特徵，兩者之間是可以相互轉換的，換句話說，軟體能為硬體迭代，硬體能為軟體進步提升提供幫助。任何一個狀態本身的此消彼漲，軟體多一點硬體就會少一點。

我對 Steve Jobs 的書看得不多，但有一句話我非常有感想——「I discovered that the best innovation is sometimes the company, the way you organize」（ 我發現最好的創新是系統組織的化身， 即公司本身）。當前時代非常適合創業創新，我們可以實現技術創新、市場創新、模式創新等，而作為一個公司本身最好的創新是什麼？是如何系統化組織。作為一家科技公司，如何組織規劃自身的產品，變成一個有活力的組織是很有必要的。

謝謝各位，這是我分享的內容。

「AI投研邦」將在近期上線CCF GAIR 2019峰會完整視頻與各大主題專場白皮書，包括機器人前沿專場、智能交通專場、智慧城市專場、AI晶元專場、AI金融專場、AI醫療專場、智慧教育專場等。「AI投研邦」會員們可免費觀看全年峰會視頻與研報內容，掃碼進入會員頁面了解更多，或私信助教小慕（微信：moocmm）諮詢。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！