一張價值百萬美元的PPT-人工智慧領域的創投機會

在舊金山灣區的星巴克里，我見到了人工智慧初創公司cNeuron創始人胡遇傑，本來一開始是聊他的公司，後來卻聊起了人工智慧在晶元領域的創業機會。

胡遇傑給我展示了一張PPT，並跟我說，這是一張價值百萬美元的PPT，投資人和創業者們照著這方向投/做就可以。（我們把PPT的縮略版放在了文末）。

胡遇傑在半導體行業有13年經驗，專註於High speed/high throught/low latency/dsp/deep learning Infrastructure，曾就職於愛立信、Brocade、Broadcom、Cadence，如今是人工智慧初創公司cNeuron的創始人。

現在這個世界啊，變化很快！

「現在這個世界啊，變化很快！計算機的誕生是為了數值計算誕生的，但現在更多的是用於處理信息。」

「計算機都應該被改造！馮諾依曼體系結構這都是個上個世紀的體系系統了。數據和計算分開，是那個時代的產物，因為當時的計算單元非常寶貴。」

「而如今計算資源不是問題了，而現在的做深度學習的瓶頸是帶寬。現在大部分人工智慧計算的資源都花在存儲和傳輸(I/O)上，反而只有少部分時間用在了計算上。」

我們在上面三點上都達成了共識，能側面證明這一點的是，很多晶元現在大部分面積都是存儲單元而不是計算單元。晶元上面積非常珍貴，寸土寸金，而以Myriad 2 Die晶元為例，已經是大量面積用在了存儲和相關邏輯上，存儲家族已經佔了很大的面積。

其實存儲不是根本的問題，人工智慧計算最大的瓶頸其實是存儲讀寫帶寬。

為了解決帶寬問題，GPU 的 Memory 從 DDR3 ，DDR4，一直升級到了 HBM。

但這就好像是編無數個謊言來圓一個謊言，無論是CPU還是GPU，他們最早都是為了數值計算而設計，而在人工智慧時代，老革命遇到新問題，大家都是在各種修修補補。

馮諾依曼體系結構的問題其實早就被人提出來，也早就有人提出了新的架構，只是沒有達到可以商業化的目的，做出來也沒有人用，因為以前的應用場景並沒有那麼多。

而如今的人工智慧計算已經和數值計算的差異越來越大，如果人工智慧在未來會成為一項基礎能力，那麼是時候思考一個全新的體系結構。

需要一個新的故事

講到這裡，既然現在計算的瓶頸在帶寬和I/O，那麼一個可能的答案就是：

「讓數據待在那裡不動，能不動，就不動。」

這個在軟體層面上其實已經已經有不少嘗試了，而圍繞這個，半導體就有很多技術出來了，主要可以分為三大方向。

第一、增加帶寬

比如被英特爾收購人工智慧創業公司Nervana Systems，Nervana的晶元在設計上把存儲和計算單裝在一起（HBM），物理上離得很近，時鐘頻率就可以跑得很高。

Nervana Systems裡面用到了HBM技術，通過提升存儲的速度和帶寬的增加來提升計算效率。英偉達最新的Pascal也用了這個技術。

第二、充分利用帶寬

在內存成為瓶頸的時候，現在大量帶寬沒有充分利用，比如通常現在的DDR（內存）存儲介面，一次讀的是一塊數據，而有很多數據讀取是浪費的，裡面被充分利用的數據可能只是一小部分。

所以思考如何充分利用帶寬是一個優化的方向。

第三、提高單個位元組的計算量(computation per byte)

計算數據來自於外部存儲，如果把一個位元組讀完，一次計算就送回來，一讀一寫總I/O就是2倍的數據量也就是2位元組。

如果把一個位元組讀完，然後把所有相關的計算盡量多做，比如八次計算全部完成只需要一次讀寫操作，那麼單個位元組的計算量就翻了八倍。

當然計算有優先序，如何通過優化把計算合并到一起，這裡面有很多細節的問題，比如一個矩陣如何存儲，裡面很多優化空間。

一張價值百萬美元的PPT

胡遇傑終於給我們講到了那張價值百萬美元的PPT，他自信地跟我重申，這是一個價值百萬美元的PPT，投資人們照著這個投就可以。

我們把精簡版放在文章里。

第一塊是人工智慧在數據中心內的行業機會。

從底層往上講，包括從計算單元到網路基礎設施。

從計算單元來看，訓練的市場沒有推理的市場大。半導體投資很大，GPU肯定不適合創業公司做，除非有大資金支持。

FPGA既可以做訓練（Training），也可以做推理(Inference)，而FPGA做推理比GPU高很多，這一塊FPGA是有價值的，成本低，也適合創業團隊來做

做ASIC也是有價值的。Google的TPU也不太可能對外賣，Nervana在沒有流片成功的情況下，依然賣了一個好價錢。

Nervana在晶元設計上做了很多優化，比如加了計算單元的互聯，但是Nervana還沒有做到極致，還有提升的空間，

然後在計算單元的集合上，也有各種各樣的技術，比如Nvidia用的nvlink比較基礎，到節點多了就較難拓展。Nervana Torus看起效能不錯，但沒有驗證。 可以用Chassis做到點對點的網路。還有其他好幾種技術都能有用於提升效率。

而在網路基礎設施上，allReduce是在超級計算里用過的很老的的技術，而InfinitiBand效率都比乙太網有所提高，但較貴。

胡遇傑表示總體而言Data center裡面的機會大部分會被大佬通吃，而機會更多的是會是在終端上。

在我們的邀請下，胡遇傑將登陸矽谷Live，為我們詳解人工智慧晶元領域的創業機會, 對於創業和投資人士這可能是價值百萬美元的分享。

關於cNeuron Technology：

cNeuron是一家人工智慧領域的創業公司，專註於提供深度學習處理器在FPGA，ASIC中的架構與實現方案（CNN，RNN，DNN），具有深度學習加速器的下一代視覺處理器單元（VPU），可用於無人機，監控攝像機，自動駕駛車。另外還提供晶元SoC網路和高吞吐量，低功耗，高效率的處理器陣列。

本次矽谷Live將用中文講述，將圍繞人工智慧在數據中心和在終端的創業和投資機會來講述。

聽矽谷AI達人講解百萬美元PPT

掃碼付費報名

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！