為什麼海思和寒武紀想更快設計出AI晶元都「盯著」Cadence?
人工智慧的熱潮,讓眾多初創公司都努力和AI產生關聯以便獲得融資和吸引更多關注,大公司們也都不願落後,紛紛通過不同方式布局AI。晶元的算力作為推動AI發展的關鍵之一,連谷歌、Amazon、Facebook這些不以硬體見長的科技巨頭都開始了AI晶元的自主研發。不過,AI晶元從概念到量產並非易事,以國內AI晶元公司海思和寒武紀為代表,看看他們為何能更快更好地設計出AI晶元?
科技巨頭們的晶元自研熱潮與海思的摩爾定律困擾
在近日舉行的Cadence全球用戶大會CDNLive China 2018,Cadence公司首席執行官、華登國際創始人陳立武在開幕演講中指出,人工智慧、5G、邊緣計算、數據中心和自動駕駛將會成為半導體發展的下一個重要推手。在接受媒體採訪時陳立武還表示:「半導體前景很好,2017年半導體產業營收超過4000億美元,同比增長超過20%。現在的機會太多了,正是干半導體的好時候。」他所說的好機會其中很大一部分就與人工智慧相關。
Cadence首席執行官、華登國際創始人陳立武
因此,我們看到最近幾年無論是國外的谷歌、Amazon、Facebook還是國內的阿里、百度這些不擅長硬體的科技巨頭們都在積極研發AI晶元。對此,陳立武告訴雷鋒網:「作為一家提供EDA(Electronic Design Automation,電子設計自動化)/半導體IP的公司,Cadence(楷登電子)非常歡迎更多的公司進入晶元領域。科技巨頭積極布局AI是因為他們不希望落後,因為他們都有大量的數據。當然,科技公司開始做晶元並不意味著傳統的晶元廠商會被取代,科技公司希望在一些應用上用自主研發的晶元來提升效率。」
Cadence亞太區IP銷售總監陳會馨
Cadence亞太區IP銷售總監陳會馨接受雷鋒網專訪時也表示:「目前AI Cloud伺服器主要是以GPU為主,但GPU能否很好地適應AI演算法現在有不同的意見。科技公司其實很早就已經在做演算法的研發,也有FPGA的團隊。FPGA一開始演算法不是很穩定,對晶元需求不是很大的時候可能是一個比較中間的方案,隨著AI整個需求的發展,AI晶元也會有很大的增長。」
不過,無論是傳統晶元廠商還是科技巨頭想要研發出算力更高、功耗更低的AI晶元就不得不面對摩爾定律放緩的問題。從國內晶元的龍頭華為海思來看,華為海思平台與關鍵技術開發部部長夏禹在CDNLive 2018大會的演講中指出,過去海思一直緊跟摩爾定律,按工藝節奏複合演進,為雲端和終端設備提供更多的算力、更寬的帶寬和更低的功耗,如今摩爾定律從某種程度看只是一個抵抗通貨膨脹的工具,晶元設計的挑戰也日益嚴峻。隨著不同終端的流行和需求的增加,工藝製程的演進使晶元設計人員面對前所未見的的設計、驗證和模擬問題。特別是模擬電路方面EDA廠商的提升落後於邏輯器件,這給現在的晶元設計帶來了明顯的影響。
摩爾定律帶來的晶元設計挑戰
對此,Cadence全球副總裁石豐瑜接受採訪時表示:「模擬方面SPICE(Simulation Program with Integrated Circuit Emphasis, 以集成電路為重點的模擬程序)很准但是不夠快,所以就要有一個Fast SPICE,但太快了不準,准了又不夠快,需要找到平衡點。從海思來看EDA工具還不夠快,尤其是往10nm、7nm甚至未來的5nm,晶元模擬會遇到更大的挑戰。數字模擬落後沒那麼多,模擬方面大家覺得進步相對較慢。為此我們也匯聚了一大批模擬模擬方面的世界級高手,比如我們公司總裁Anirudh Devgan,他自己就是世界級的模擬模擬高手,我們一起去搭建針對不同場景的方案去解決其面對的問題。」
陳立武還補充道:「模擬正發揮越來越大的作用,我們最近推出的五個新產品四個和模擬有關。我們會在SPICE上下功夫,我們很喜歡海思,他們給我們提出了挑戰,這讓我們進步應該更快一點,我們會一如既往地和他們配合。」
寒武紀16nm雲端AI晶元流片時間節省了一半
海思作為國內手機SoC領先的廠商,不僅體現在麒麟處理器的出貨量上,更體現在其麒麟970搭載的NPU上。麒麟970被稱為全球首款人工智慧手機處理器,而麒麟970搭載的NPU是寒武紀的人工智慧處理器IP。據悉麒麟980還將繼續搭載新一代寒武紀的人工智慧處理器IP。
為麒麟970提供人工智慧處理器IP的寒武紀如今已是全球AI領域的獨角獸,但寒武紀能夠快速推出AI晶元與Cadence的合作十分關鍵。陳會馨表示:「AI晶元領域很多都是初創公司,我們選擇合作夥伴不是以大小決定,而是會看他技術的獨到性、儲備還有經營的理念。寒武紀和我們各方面都比較契合,所以很自然地就有了合作。」
據雷鋒網了解,寒武紀的第一款IP產品已經和Cadence Tensilica P6 DSP處理器在人工智慧手機晶元領域實現了千萬級大規模商用。寒武紀在多個晶元研發中也都使用了Cadence Palladium Z1硬體模擬加速器以及內存介面和PCIE等關鍵IP。寒武紀CEO陳天石表示:「Cadence的Memory interface IP和I/O interface IP產品支撐寒武紀第一款雲端智能晶元產品成功流片並達到設計預期。」
關於Cadence與寒武紀第一款雲端晶元的合作,陳會馨接受採訪時表示:「寒武紀作為國內AI晶元的獨角獸,是一家有遠大目標的初創公司,他們整個的晶元設計周期非常短,大概用了半年的時間16nm晶元就完成了流片。這在我合作過的公司當中很少見,因為16nm的晶元至少要一年的設計周期,相當於少用了一半的時間。能夠取得這樣的結果一方面是寒武紀本身的實力,另一方面先建立一個非常有效的驗證平台也很重要。Cadence給他們授權了相關介面IP,這也是我們第一次和寒武紀在16nm上介面IP的合作。」
需要指出的是,雲端神經網路AI處理器有很多數據需要處理,因此要做緩存,需要非常大的帶寬來提高效率,必須達到晶元互聯才能更好地提升晶元性能,而普通的DDR是很大的瓶頸,PCIE4.0、5.0將會是未來幾年的主流,關於新的存儲技術如HBM2、GDDR6應用到AI晶元里的討論也很多。陳會馨還補充道:「雖然寒武紀整個晶元設計周期非常短,但是其實在IP整合、驗證、實現等方面都有很多問題需要交流。在這個合作當中我們對寒武紀有很大的支持,包括我們的研發也直接對接寒武紀。」
除了性能,功耗也是移動端AI晶元非常關注的問題。那麼功耗問題能否通過EDA工具來解決?陳會馨表示,在晶元設計的時候工藝以及晶元的架構的選擇就在很大程度上決定了晶元的功耗,EDA工具的作用是幫助晶元設計人員降低功耗。在終端上,我認為除了像車載一類的應用對數據的實時性要求不會那麼高,所以對算力也沒有特別高的要求。並且,數據在終端上先處理再傳輸到邊緣端或者雲端也能夠實現更好的保密性,因此終端的AI晶元如何做的更便宜、功耗很低很重要。
如何才能更快更好地設計出AI晶元?
無論是海思還是寒武紀,他們都在晶元領域有深厚的積累,但對於許多沒有那麼深厚積累又想更快設計出AI晶元的公司,EDA工具就將發揮更重要的作用。陳會馨表示對於新的客戶或者從其他行業轉過來的晶元客戶,需要提供從IP到工具的全面的解決方案。
陳立武表示Cadence正在轉型成系統設計公司,我們有獨有的系統設計實現(System Design Enablement,SDE)戰略。Cadence將不僅做EDA平台,我們想做的是SDE平台,其中除了IP和安全等晶元相關的產品,封裝和系統集成等方面也需要我們重點考慮。提出這個戰略很重要的原因是我們現在40%以上的客戶是系統公司和服務型供應商,這些汽車、雲服務商或一些系統公司都開始慢慢做晶元,我們看到系統公司的需求。
當然,目前的AI晶元主要基於CPU、GPU、FPGA和ASIC,也有類腦晶元,但無論是哪種類型的晶元驗證都非常關鍵,因此Cadence在驗證方面加強了對FPGA的支持。不過除了硬體,陳立武認為AI晶元的成功軟體也非常關鍵。
Cadence亞太區IP銷售總監陳會馨也表示,AI晶元想要有差異或者說增強競爭力,可以和有潛力和技術很有特點的軟體公司進行戰略合作。比如有做智能語音演算法的公司演算法很好,但苦於找不到性能和功耗都適合的硬體平台,此時如果雙方能合作實現更好地軟硬結合就將發揮更大的價值。以Cadence的Tensilica DSP為例,我們與國內幾十家軟體廠商都有合作,通過合作更好地發揮DSP的功耗效率優勢,讓DSP在語音和視覺應用方面更多的出現在移動終端和物聯網設備當中。
軟體之外,不斷演進的演算法也是人工智慧發展的關鍵,那Cadence是否會推出專門針對神經網路演算法的EDA工具?陳會馨表示,我們暫時沒有新的工具推出,但會在工具當中加入一些新功能來支持現在AI晶元的趨勢。舉個例子,AI晶元裡面需要大量的運算器,這在後端實現時成本就是一個很大的挑戰,但我們會通過新的功能解決這個問題。對於不斷更新的演算法,AI晶元即便是ASIC在設計的時候會保持一定的靈活性,這時候Tensilica DSP也可以發揮作用,支持新的函數或者演算法。
還有一個值得一提新的趨勢,那就是將EDA工具放到如亞馬遜、谷歌的雲上。石豐瑜表示將EDA工具放到雲上有三個方面的原因,第一是性能,雲上的算力無窮無盡,不同的需求都能夠得到滿足;第二是對初創企業友好,許多初創企業沒有足夠的資金和技術人員搭建一個伺服器架構支撐複雜的EDA需求,這時候用雲做更快;第三是需求,並不是所有客戶都需要大算力,也不需要買那麼多軟體,只有在特殊情況下突然需要10倍的授權,因此根據不同的需求和不同的商業模式,在雲上都能滿足不同的需求。
不過,EDA工具上雲面臨諸多挑戰,不僅需要上下游廠商如Arm、台積電的支持,與雲服務廠商等的多方合作也非常關鍵。Cadence副總裁中國及東南亞區總經理徐昀表示:「雖然我們已經有將EDA工具放到雲上的能力並且在國外也已經實現,但這項服務還沒有在國內應用,與Cadence的其他服務一樣,我們的產品和服務主要會考慮到客戶的需求,對於國內公司的需求,我們保持著密切的關注,另外還要考慮國內知識產權保護問題。無論如何,我們都希望在整個設計的的過程中吧時間縮到最短。」
Cadence副總裁中國及東南亞區總經理徐昀、Cadence公司首席執行官、華登國際創始人陳立武、Cadence全球副總裁石豐瑜接受媒體採訪
雷鋒網小結
無論是傳統的晶元廠商還是新入局的科技巨頭還是眾多的初創公司,在研發AI晶元的時候一定繞不開像Cadence這樣的EDA/IP公司,他們所提供的模擬、驗證工具以及IP也在很大程度上決定著AI晶元的流片快慢。傳統晶元公司雖然積累深厚,但是在軟體方面無論是積累還是人才方面都面臨挑戰。新入局的公司則需要完整的解決方案,最大程度降低設計難度以及加速晶元的量產。這也是包括海思和寒武紀在內的AI晶元公司設計AI晶元都需要「盯著」Cadence的原因。
從EDA/IP廠商的角度,無論是整套的完整的解決方案、新增針對神經網路的功能、將EDA工具放到雲端,目的都與CDNLive一樣,希望通過與客戶更多地溝通,更好地滿足晶元設計廠商的需求共同推動AI晶元更快上市,讓AI從較早期的階段走向成熟,讓AI技術的應用不再局限於自動駕駛和安防,通過AI技術與醫療、機器人等的結合,讓AI更好地服務我們的生活。


※Google推出AI晶元Edge TPU,可在邊緣運行TensorFlow Lite機器學習模型
※蘋果叕申請自動駕駛專利了!一旦應用,乘客們就有福了
TAG:雷鋒網 |