加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

圓桌 | “推理>訓(xùn)練”,RISC-V在邊緣計算領(lǐng)域有哪些發(fā)展機遇?

08/22 11:00
2767
閱讀需 19 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

雖然RISC-V的誕生已經(jīng)有10多年,但站在5年前,我們?nèi)匀挥X得RISC-V是一項新技術(shù),因為它沒有產(chǎn)品落地。今天五年過去了,RISC-V的勢頭已經(jīng)逐漸清晰,賽道也慢慢跑出來了。

在第四屆滴水湖中國RISC-V產(chǎn)業(yè)論壇上,除了像往年一樣跟蹤上一年推介的10款產(chǎn)品落地情況,并推介當年最有希望量產(chǎn)落地,且具有代表性的10款產(chǎn)品以外,同期還舉辦了以《RISC-V在邊緣計算領(lǐng)域的發(fā)展機遇》為主題的圓桌論壇。

圖 | 《RISC-V在邊緣計算領(lǐng)域的發(fā)展機遇》圓桌討論現(xiàn)場,來源:芯原

論壇由中國RISC-V產(chǎn)業(yè)聯(lián)盟理事長、芯原股份創(chuàng)始人、董事長兼總裁戴偉民主持,并邀請到了英特爾亞太研發(fā)有限公司研發(fā)總監(jiān)段建鋼,達摩院(上海)科技有限公司研發(fā)總監(jiān) 梁中書,中國RISC-V產(chǎn)業(yè)聯(lián)盟秘書長、芯來智融半導(dǎo)體科技(上海)有限公司CEO彭劍英,芯原股份高級副總裁、定制芯片平臺事業(yè)部總經(jīng)理汪志偉,北京大學講席教授、RISC-V國際基金會人工智能機器學習專委會主席謝濤,烏鎮(zhèn)智庫理事長張曉東六位重磅嘉賓,共同探討RISC-V的現(xiàn)狀、發(fā)展趨勢,以及更適用于中國RISC-V發(fā)展的道路選擇。

下面整理了本場圓桌論壇的重點對話情況:

戴偉民:在萬物智聯(lián)時代,如何看待“RISC-V+AI”、“AI+RISC-V”的道路?

謝濤:“RISC-V+AI”就像是從RISC-V大房子“長”出來的小房子,因為有些功能需要大房子和小房子協(xié)同才能把任務(wù)做好,而這個小房子就相當于“撐”起整個設(shè)計的加速器。

而“AI+RISC-V”就像是CPU協(xié)處理器的關(guān)系,協(xié)處理器可能有很多個,從而組成一個集群的概念。

戴偉民:在AI領(lǐng)域,我們是否可能借助RISC-V來解決生態(tài)的問題,就像Android一樣發(fā)揚光大?

張曉東:我們要去挑戰(zhàn)CUDA生態(tài),用開源挑戰(zhàn)閉源,做一個全新的生態(tài),存在哪些挑戰(zhàn)呢?我觀察到一個現(xiàn)象,有一些做得好的,往往是先有需求和產(chǎn)品,而后在產(chǎn)品和需求的基礎(chǔ)上去建設(shè)標準,這樣的標準往往更容易成功。如果我們現(xiàn)在憑空制造一個標準,然后希望拉產(chǎn)品的人來做,這個挑戰(zhàn)是相當大的。

此外,我最近觀察到幾個現(xiàn)象,AI生態(tài)有好幾個類別,今年年初的時候英特爾推了自己的AI PC,但微軟出來說,“你的東西不是AI PC,是不是AI PC我說了算”,于是微軟定義了一個它自己的AI PC標準。那么,接下來蘋果也可能有所謂的“蘋果AI生態(tài)”,谷歌也有自己的生態(tài)。所以,在一個操作系統(tǒng)或者更大的應(yīng)用層面上,它會構(gòu)成一個生態(tài),那個生態(tài)如果起來了,未來會和我們剛才說要打造的“AI+RISC-V”間存在怎樣的關(guān)系呢?是RISC-V為其提供武器,還是說在做了一些事情后就被其撇開?

事實上,當前CUDA還主要應(yīng)用在訓(xùn)練側(cè),在端側(cè)的推理應(yīng)用不是很多,但兩、三年后,推理可能是訓(xùn)練體量的10倍及以上,帶來更大的影響力,這又將會是一個怎樣的動態(tài)關(guān)系呢?我也想請教一下謝老師。

謝濤:確實這些問題都很關(guān)鍵,我們要去推標準,可能有一些標準是偏學術(shù)機構(gòu)或者說企業(yè)沒有深度參與的。但RISC-V國際基金會推標準時采取的是“自底向上”的策略,標準是以企業(yè)為核心的行業(yè)共識,我們的目標不是標準本身,我們把標準當作手段,推成標準之后就會把更新迭代和維護的工作交給各大國際開源主流社區(qū),所以這個標準是經(jīng)得起推敲的,也是有極大吸引力的。通常,AI芯片公司中2/3的工程師軟件工程師,如果跟隨成熟標準,就可以借力減負,減少公司在軟件方面的成本投入。

第二個問題,CUDA生態(tài)是英偉達推行的,然而包括AMD、谷歌、微軟在內(nèi)的科技巨頭都不希望英偉達一家獨大,確實英偉達的產(chǎn)品又貴又難買到。而RISC-V不是排他的思路,包括英偉達也想去擁抱它。支撐英偉達GPGPU芯片的開源的系統(tǒng)軟件棧就像是一個“大煙囪”,現(xiàn)在也有一些國際公司很看好Triton生態(tài),希望把它做成“小煙囪”,當RISC-V把大家團結(jié)起來,就可以形成另外一個平行的“大煙囪”。

戴偉民:英特爾是x86的代表,為什么也會支持RISC-V,并且在早期就做出了很大的貢獻?

段建鋼:我們實際上是在尋找一個交集,AI有單獨的一個范疇。我們經(jīng)常碰到一個問題,當我們要做一個GPGPU,就會有很多人提出質(zhì)疑——為什么是RISC-V和AI的結(jié)合?事實上,AI是一個不斷發(fā)展的領(lǐng)域,未來的AI會是什么樣子,還沒有很好的定義,這意味著可能有更多的創(chuàng)新機會。

但我們知道,對于AI來說,它需要的是一個很大的軟硬件結(jié)合的優(yōu)化解決方案。從軟件方面來看,新的Triton或者PyTorch等新的編程語言出現(xiàn),是為了更直接、方便地去開發(fā)一些算子。

當然,這些嘗試不一定能夠成功,最終成功與否還要看工業(yè)界的發(fā)展、生態(tài)的發(fā)展,以及社區(qū)的努力。

戴偉民:梁中書是阿里巴巴的技術(shù)專家,也曾就職于英偉達,你對這個持什么觀點?

梁中書:毫無疑問RISC-V現(xiàn)在最重要的方向就是AI。早年的AI主要聚焦在“訓(xùn)練”方面,但未來幾年,“推理”的需求會更旺盛,“RISC-V+AI”的趨勢是非常明顯的。那么,如何做好“RISC-V+AI”生態(tài)呢?從硬件的角度來看,我們都在追求算力的能效比,所以AI的算力必然會走向端用化。

當然,目前業(yè)界最主要的還是“緊耦合”的模式,但未來AI大算力芯片應(yīng)該是“松耦合”的狀態(tài),也就是“RISC-V+相關(guān)AI加速器”。換言之,AI某種程度上很可能是個性化的應(yīng)用,它需要支持好“加速”模式,而一個高效、完整的擴展指令接口,包括工具鏈的支持、相關(guān)基本軟件庫的適配,可以助推“松耦合”AI大算力芯片的發(fā)展。

投票

問題:預(yù)計RISC-V+AI生態(tài)何時可以“撼動”或者達到CUDA生態(tài)的規(guī)模?

段建鋼:我覺得要看我們怎么定義“撼動生態(tài)”,這個比較含糊。因為從用戶的角度來講,其實越往上用戶越多,現(xiàn)在最能賺錢的AI爆款應(yīng)用還沒出現(xiàn),我覺得得等商業(yè)模式更清晰的時候,從應(yīng)用爆點切入也許還有可能,但從找到一個軟件棧完全跟CUDA能夠達到一樣的效果,這個確實從技術(shù)上來講我覺得比較難。

戴偉民:說到應(yīng)用,ChatGPT出來之前都是“弱智能”,現(xiàn)在Transformer下的AIGC實現(xiàn)了“強智能”,我認為被這波“強智能”第一個顛覆的將是教育行業(yè)——我們不需要背答案的人,而需要提問題的人,因此在“個性化教育、普惠教育”的背景下,AI-Pad將是一個很好的抓手,所以對RISC-V來說,我們更需要往中高端市場去發(fā)力,和安卓做好適配。那么,從家長的角度來看,賦能教育的AI-Pad到底應(yīng)該擁有哪些功能呢?

汪志偉:市場上Pad產(chǎn)品已經(jīng)很多了,價格區(qū)間從800元到4000元不等。但我認為過去硬件引領(lǐng)軟件下所謂的“智能教育”的智能化程度是偏低的,現(xiàn)在變成軟件引領(lǐng)硬件,硬件能力相對于智能化的需求是偏弱的。要讓AI-Pad有競爭力,我認為一方面AI算力需要提升,可以借助RISC-V這樣一個開放、靈活、可擴展的CPU架構(gòu)來擴展AI算力;另一方面需要支持安卓操作系統(tǒng),便于廣大的用戶、開發(fā)者在這上面開發(fā)軟件,實現(xiàn)應(yīng)用軟件層面的智能化提升,比如語音、手勢等姿態(tài)的交互能力,解答問題、分析評價的能力等。

戴偉民:很重要的是“個性化”,學習的人打瞌睡了你還在講,那不行;如果他/她學得很有成就,獎勵其玩10分鐘游戲也是應(yīng)該的,這個其實要求蠻高的?,F(xiàn)在技術(shù)都有,但在終端垂直領(lǐng)域個性化的大模型需要微調(diào)和推理。至于怎么去推理和微調(diào),RISC-V能否支撐起AI-Pad對CPU的焦點需求,我想聽聽彭博士的看法。

彭劍英:在AI智能終端的定位方面,我認為2000-3000元價位的AI-Pad就像是“小房子”,5000-6000元價位的AI-Pad則是“大房子”,它們對SoC的架構(gòu)的需求是不一樣的。而未來評價AI-Pad好壞最核心的因子也不是基礎(chǔ)的CPU性能,而是這個CPU能不能支撐未來在AI方面的擴展。

這幾年RISC-V生態(tài)發(fā)展很快,包括在算力或者CPU內(nèi)核在性能上的不斷提升,已經(jīng)可以往主流應(yīng)用去走,這對于RISC-V是巨大的機會,因為RISC-V最大的優(yōu)勢就是可擴展性,能為這些應(yīng)用提供更強的AI能力。

戴偉民:段總在英特爾曾經(jīng)也看過教育,而且聽說你的小孩也是很優(yōu)秀的,你能否談一下你想象中的AI-Pad最重要的三個點?

段建鋼:從家長的角度來講,我希望能夠提供一個安全可控的,幫助他/她去探索和了解世界的一個渠道。小朋友理解世界的方式和大人是不一樣的,他/她的文字能力不是太好,更希望通過語言和AI引擎對話,所以我們是否能夠提供一個方式,一方面針對有限的領(lǐng)域和知識集引導(dǎo)他/她們,培養(yǎng)他們對這個世界的熱情;另一方面提供給家長一個參與和了解他們探索過程的輔助能力。這些新的創(chuàng)新和應(yīng)用,我覺得就需要新的軟件、新的模型、新的算力來支撐。

投票

問題:從家長的角度來看,希望AI-Pad有哪些功能?(選三項)

問題:從家長的角度來看,什么價位的AI-Pad是合理的?(單選)

彭劍英:不能選太貴的CPU,所以選RISC-V最合適,性價比最高。

戴偉民:除了以上提到的消費電子外,我們來看車端,高通、博世、英飛凌等幾家做RISC-V是為了汽車,這一次“RISC-V歐洲峰會”上也特別講到了“汽車”的事情。最近芯原做了一個5nm車規(guī)芯片,德國一家非常有名的公司跟我們談,他說:“我不要做一大顆芯片,我希望把它分開做,你會做CPU、他會做GPU、他會做AI,最好幾個人來領(lǐng)。比如一個車型需要50Tops的AI算力,今天這個CPU可以是Arm、x86,也可以是RISC-V,當然這個接口我們事先有標準。所以我想請問彭總,從MCU的角度來看,RISC-V是否有可能實現(xiàn)上車?”

彭劍英:今年6月底在慕尼黑開的“RISC-V歐洲峰會”,蠻多內(nèi)容都跟“RISC-V上車”相關(guān)。

以英飛凌的一個演講為例,我們知道英飛凌之前一直是自研的,如今他們也投了5家企業(yè)。從各種信息可以看到,他們下一代ECU或者下一代車規(guī)的CPU平臺就是基于定制化的RISC-V的。為什么英飛凌占據(jù)世界第一的位置,依然有決心在早期投入到RISC-V?

我自己的理解是,現(xiàn)在汽車電子面臨巨大轉(zhuǎn)型,軟件定義汽車芯片正在成為未來趨勢。2010年之前大家追求的是性能,當時面臨著的是16位升級到32位;現(xiàn)在強調(diào)的是“軟件和AI”,如果不主動擁抱變化,就會被拋棄。至于為什么選擇RISC-V?他們也是認為RISC-V實際上是一個開放的環(huán)境,它的可擴展性、可模塊化,適用于在未來一顆芯片或者整個汽車電子不同模塊的芯片,可以用同一個ISA、不同的微架構(gòu)實現(xiàn)的核心來統(tǒng)一滿足需求。以汽車電子ECU為例,系統(tǒng)管理有一個核心,計算、加速器可能會有1-4個核心,AI-ECU可能會有N個核心。換言之,未來的車載ECU對CPU的性能要求不再是簡單對標MCU,而是需要一系列的覆蓋,那就意味著不僅僅是對IP選型的問題,而是對整個軟件生態(tài)整個兼容性的問題。但對于RISC-V來講,整個軟件是兼容的,所以這是一個巨大的優(yōu)勢。

其實現(xiàn)在不僅是英飛凌有所動作,瑞薩電子也在做內(nèi)部的一些RISC-V項目研究。總體上我認為汽車電子正面臨巨大的轉(zhuǎn)型,這對RISC-V來講是一個機會。

芯來從2021年就開始做車規(guī)產(chǎn)品,2023年7月,芯來NA900系列的成功認證使芯來科技成為了全球首家獲得ISO26262 ASIL-D產(chǎn)品認證的RISC-V CPU IP廠商,今年芯來NA300系列也獲得了認證。確實,新能源汽車賽道給整個產(chǎn)業(yè)鏈帶來了一次巨大的機會和時間窗口,對我們來說,已經(jīng)從“0”踏入了一個相對來講探索的階段,國內(nèi)和國際頭部的激光雷達、毫米波雷達廠商已經(jīng)在量產(chǎn)基于芯來IP的ASIL-B和ASIL-D產(chǎn)品。

汪志偉:第一代特斯拉的時候單顆芯片算力只有36TOPS,如今已經(jīng)達到500TOPS,未來可能會更高。Chiplet要解決的一個最大的問題就是AI算力需求問題,過去兩年芯原在汽車電子領(lǐng)域做的不錯,尤其是在ADAS領(lǐng)域,設(shè)計能力已經(jīng)屬于業(yè)界領(lǐng)先水平。為了滿足進一步的算力需求,我們跟RISC-V四大家的芯片大廠中的兩家(是我們的客戶)都有討論。你切成幾顆大的,怎么切?要解決可靠性、散熱、安全等問題,那么我們要回到Chiplet在車上最主要解決的問題是什么?其實,最關(guān)鍵的是解決神經(jīng)網(wǎng)絡(luò),尤其是現(xiàn)在這種大模型LLaMA2,以及在邊緣端和車端的推理,有很多工作要做,當然首先要解決的還是AI算力問題。在逐漸收斂的過程中,芯原認為需要簡化方案,AI算力不夠怎么辦?拓展算力再加上一個NPU的Chiplet,NPU的Chiplet可以再來300TOPS、500TOPS,甚至1000TOPS;另外可能還要加一個Chiplet,就是AISP,因為市場上有些芯片的AI算力只能支持兩路、四路,或者最多到六路、八路攝像頭,但是現(xiàn)在新能源車上用的攝象頭越來越多,12路攝像頭是普遍的,怎么辦?可能要加一個Chiplet來擴展AI算力,加上對AI的處理。我們現(xiàn)在看到的,2-3顆Chiplet是比較現(xiàn)實可行的一個針對自動駕駛的解決方案。

投票

問題:預(yù)計RISC-V芯片何時可以在汽車上獲得普遍采用?(單選)

問題:基于Chiplet的高端車規(guī)芯片預(yù)計何時會成為主流?(單選)

戴偉民:我認為AI-Pad是非常有市場的,而且當Pad出來后,一定要聯(lián)合教育軟件公司做線上線下的配合,做成真正的智慧設(shè)備,同時把軟件生態(tài)搞起來。

此外,在“上車”方面,我們看到,芯來的小MCU已經(jīng)“上車”了,現(xiàn)在我們要看能不能盡快把Chiplet在自動駕駛上推動起來。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風險等級 參考價格 更多信息
ATXMEGA128D4-CU 1 Microchip Technology Inc IC MCU 8BIT 128KB FLASH 49VFBGA
$16.33 查看
MKL02Z32CAF4R 1 Freescale Semiconductor Kinetis L 32-bit MCU, ARM Cortex-M0+ core, 32KB Flash, 48MHz, WL-CSP 20

ECAD模型

下載ECAD模型
$2.7 查看
ATXMEGA128A3U-MHR 1 Microchip Technology Inc IC MCU 8BIT 128KB FLASH 64QFN
$7.31 查看
芯原股份

芯原股份

芯原微電子(上海)股份有限公司(芯原股份,688521.SH)是一家依托自主半導(dǎo)體IP,為客戶提供平臺化、全方位、一站式芯片定制服務(wù)和半導(dǎo)體IP授權(quán)服務(wù)的企業(yè)。在芯原獨有的芯片設(shè)計平臺即服務(wù)(Silicon Platform as a Service, SiPaaS)經(jīng)營模式下,通過基于公司自主半導(dǎo)體IP搭建的技術(shù)平臺,芯原可在短時間內(nèi)打造出從定義到測試封裝完成的半導(dǎo)體產(chǎn)品,為包含芯片設(shè)計公司、半導(dǎo)體垂直整合制造商 (IDM)、系統(tǒng)廠商、大型互聯(lián)網(wǎng)公司和云服務(wù)提供商在內(nèi)的各種客戶提供高效經(jīng)濟的半導(dǎo)體產(chǎn)品替代解決方案。

芯原微電子(上海)股份有限公司(芯原股份,688521.SH)是一家依托自主半導(dǎo)體IP,為客戶提供平臺化、全方位、一站式芯片定制服務(wù)和半導(dǎo)體IP授權(quán)服務(wù)的企業(yè)。在芯原獨有的芯片設(shè)計平臺即服務(wù)(Silicon Platform as a Service, SiPaaS)經(jīng)營模式下,通過基于公司自主半導(dǎo)體IP搭建的技術(shù)平臺,芯原可在短時間內(nèi)打造出從定義到測試封裝完成的半導(dǎo)體產(chǎn)品,為包含芯片設(shè)計公司、半導(dǎo)體垂直整合制造商 (IDM)、系統(tǒng)廠商、大型互聯(lián)網(wǎng)公司和云服務(wù)提供商在內(nèi)的各種客戶提供高效經(jīng)濟的半導(dǎo)體產(chǎn)品替代解決方案。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

與非網(wǎng)副主編 通信專業(yè)出身,從事電子研發(fā)數(shù)余載,擅長從工程師的角度洞悉電子行業(yè)發(fā)展動態(tài)。