芯片產(chǎn)業(yè)新賽點：端側(cè)AI與生態(tài)破局

| 聚沙成塔，同舟共濟(jì)???????????

應(yīng)用爆發(fā)、終端牽引，是近兩年國內(nèi)芯片產(chǎn)業(yè)邁向高質(zhì)量發(fā)展的呼吁與共識。外部復(fù)雜環(huán)境，消費電子市場疲軟，這些都在考驗著終端產(chǎn)業(yè)的韌性，更深刻影響著上游的芯片行業(yè)。

進(jìn)入2024年，終端市場嶄露復(fù)蘇跡象，根源在于AI技術(shù)，尤其是生成式AI在終端應(yīng)用上開創(chuàng)了新局面。AI手機(jī)、AI PC、智能汽車、具身智能、智能家居、智能穿戴等，生成式AI正在為終端市場乃至芯片產(chǎn)業(yè)注入新的活力。

中國擁有豐富多樣的終端品牌，是全球最大的半導(dǎo)體應(yīng)用市場。在端側(cè)AI時代下，國內(nèi)眾多芯片企業(yè)相繼重兵投入，先發(fā)優(yōu)勢已然顯現(xiàn)。但半導(dǎo)體行業(yè)分工細(xì)，產(chǎn)業(yè)鏈環(huán)節(jié)多，如何讓半導(dǎo)體產(chǎn)業(yè)在AI上的資源“聚沙成塔”，發(fā)揮1+1＞2的效果？成為目前事關(guān)端側(cè)AI產(chǎn)業(yè)高質(zhì)量發(fā)展和企業(yè)商業(yè)化前景的重中之重。

日前，芯謀研究出席了由安謀科技主辦的端側(cè)AI生態(tài)研討會，期間眾多先鋒企業(yè)高管和資深技術(shù)專家云集，覆蓋了芯片、OEM/ODM、大模型、AI解決方案等國內(nèi)AI產(chǎn)業(yè)全鏈路，現(xiàn)場深入探討產(chǎn)業(yè)技術(shù)趨勢與落地案例，或許為上述設(shè)問提供了新的解題思路。

終端AI時代已開啟，Arm架構(gòu)正持續(xù)引領(lǐng)

算法、數(shù)據(jù)和算力是驅(qū)動AI技術(shù)發(fā)展的三駕馬車。2007年之前，AI技術(shù)處于起步階段，受限于算法和數(shù)據(jù)量，對芯片算力的需求并不迫切，通用CPU芯片尚且可滿足需求。而后的十幾年，隨著互聯(lián)網(wǎng)的普及，數(shù)據(jù)量噴涌，算法百家爭鳴，代表算力的芯片產(chǎn)業(yè)，也隨之演進(jìn)，從GPU到專用AI芯片，再到當(dāng)下的多元異構(gòu)計算方案。

2023年以來，生成式AI引爆行業(yè)，開啟了AI在應(yīng)用上的新篇，也為AI在終端上的全面滲透帶來機(jī)遇。未來十年，大模型將牽引AI，從數(shù)字世界走向物理世界，在手機(jī)、PC、智能汽車、機(jī)器人等智能終端落地，全面開啟大模型的端側(cè)AI時代。據(jù)Counterpoint預(yù)測，生成式AI手機(jī)滲透率有望從2023年的不到1%增長至2027年的43%。其次是AI PC，Canalys預(yù)測2024年AI PC滲透率約19%，到2027年滲透率將超60%。穿戴設(shè)備、醫(yī)藥、高端制造等行業(yè)也開始積極采用AI技術(shù)。

算法更多樣、迭代更快速，然而在生產(chǎn)部署上大模型還面臨著模型壓縮、修正與對齊的挑戰(zhàn)，這是算法與場景結(jié)合上的典型表現(xiàn)。本次研討會現(xiàn)場，據(jù)智源人工智能研究院副院長兼總工程師林詠華分享，大模型領(lǐng)域已經(jīng)呈現(xiàn)明顯的兩極分化，數(shù)百億級以上的強大稠密模型，或10B以下的小模型更受歡迎。即模型要么更強更大，要么更小更精。越來越多的小模型被發(fā)布和下載，10B以下的小模型成為現(xiàn)在整個開源社區(qū)下載量的主力。

端側(cè)AI的一大亮點是本地計算，數(shù)據(jù)避免了上傳云端，降低了通信帶寬，但對隱私保護(hù)和低延遲要求更高。這意味著在作為計算底層支持的芯片，在架構(gòu)上要更快速、靈活地適配各種AI模型，應(yīng)對帶寬、存儲的新挑戰(zhàn)，同時還要滿足終端產(chǎn)品低功耗、安全性、輕量化的市場要求。

在芯片架構(gòu)上，Arm架構(gòu)由于高性能、低功耗的特性，被終端芯片廠商廣泛認(rèn)可，超過99%的智能手機(jī)建立在Arm架構(gòu)基礎(chǔ)上。即便是在PC領(lǐng)域，近年來Arm架構(gòu)也憑借生態(tài)企業(yè)闖出一片天地，高通與微軟合作使Windows系統(tǒng)開始支持高通開發(fā)的Arm架構(gòu)處理器，基于Arm架構(gòu)的PC市占率連年攀升。

而在端側(cè)AI時代，對于芯片側(cè)的要求更多聚焦于算力、內(nèi)存、功耗、工藝、面積、散熱等關(guān)鍵詞上，如何在這些核心要素之間尋找最佳平衡點，成為AI芯片技術(shù)突破的關(guān)鍵。得益于完善的硬件IP產(chǎn)品、通用且應(yīng)用廣泛的軟件生態(tài)和平臺級的解決方案，Arm架構(gòu)正持續(xù)為AI在云側(cè)和端側(cè)的落地提供計算基礎(chǔ)，這意味著端側(cè)AI芯片的創(chuàng)新，有望延續(xù)Arm技術(shù)生態(tài)在終端和嵌入式設(shè)備的技術(shù)積累和生態(tài)優(yōu)勢。

國內(nèi)終端AI產(chǎn)業(yè)進(jìn)展，模型和算力“雙向奔赴”

終端AI體量最大，最貼近消費者即最貼近應(yīng)用端的就是智能手機(jī)。作為終端代表，手機(jī)廠商也在積極擁抱終端AI時代的到來。2023年國內(nèi)手機(jī)廠商vivo發(fā)布了自研的藍(lán)心大模型BlueM-3B，成為國內(nèi)第一個發(fā)布大模型的手機(jī)廠商。據(jù)vivo?AI規(guī)劃高級總監(jiān)孟祥育表示，3B數(shù)據(jù)量大小的模型即可達(dá)到云端70B 80%以上的效果，并預(yù)測未來手機(jī)峰值算力將突破100TOPS，而目前大模型架構(gòu)對算力利用率在10%～20%。針對大模型架構(gòu)進(jìn)行算力優(yōu)化，提升利用率刻不容緩。

國內(nèi)模型明星公司面壁智能發(fā)布的MiniCPM 3.0，以其4B參數(shù)量在性能上逼近GPT-3.5水平, 在端側(cè)部署上實現(xiàn)了技術(shù)突破，其旗艦多模態(tài)產(chǎn)品將在端側(cè)全面對標(biāo)GPT-4V，讓端側(cè)實時視頻理解、長圖難圖文本精準(zhǔn)識別成為可能。

另一方面，我們也看到諸多芯片企業(yè)正在加速針對端側(cè)AI的算力革新，以應(yīng)對當(dāng)下終端智能化躍遷的產(chǎn)業(yè)需求。從芯片上游的IP領(lǐng)域來看，安謀科技作為國內(nèi)該領(lǐng)域的頭部企業(yè)，基于自身的本土創(chuàng)新能力，在成立之初便推出了“周易”自研NPU，其正在研發(fā)的最新一代“周易”NPU針對Transformer算法，從軟硬協(xié)同角度進(jìn)行優(yōu)化，在功耗、面積、性能方面進(jìn)一步提升優(yōu)勢，并已成功與國內(nèi)外多款主流大模型完成兼容適配，賦能高性能AI計算。此外，安謀科技自研IP還可以與Arm通用IP組成異構(gòu)計算平臺，進(jìn)一步滿足AI計算任務(wù)對于多元算力的需求，以加速端側(cè)AI的落地。

而在芯片設(shè)計領(lǐng)域，作為安謀科技異構(gòu)計算平臺的最新實例成果，此芯科技的首款A(yù)I PC芯片“此芯P1”異構(gòu)集成了“周易”NPU以及Arm架構(gòu)CPU、GPU等，通過將各個計算單元應(yīng)用在不同應(yīng)用負(fù)載中，實現(xiàn)端側(cè)AI的高能效異構(gòu)計算。此芯科技還推出了AI PC開發(fā)套件新品Radxa Orion 06，搭載了“此芯P1”高能效Armv9處理器，可以基于異構(gòu)算力支持主流端側(cè)生成式AI大模型和傳統(tǒng)CNN模型。

國內(nèi)頭部手機(jī)芯片廠商紫光展銳則基于Arm架構(gòu)和生態(tài)，搭建起CPU、GPU、NPU以及整合的SoC底層算力平臺，覆蓋全場景通用AI算力（端側(cè)AI智能體）、多媒體專用AI算力和低功耗輕量AI算力等三大AI典型場景。讓AI手機(jī)能理解機(jī)主需求并主動服務(wù)，完成整理會議紀(jì)要、提供郵件回復(fù)建議等個性化服務(wù)。

在端側(cè)AI中，CPU、GPU、NPU、VPU等多種算力單元的異構(gòu)計算，可以更充分地利用端側(cè)算力，是端側(cè)AI設(shè)備部署大模型的最優(yōu)解。然而,一方面我們看到的是基于端側(cè)AI所蘊含的產(chǎn)業(yè)機(jī)遇的共識，終端設(shè)備和算力廠商，與下游的模型廠商正在相向而行，雙向奔赴。另一方面，則是多元異構(gòu)的AI算力卻面臨著巨大的技術(shù)挑戰(zhàn)，生態(tài)割裂與適配困難尤為突出。各廠商私有的、碎片化的軟件生態(tài)已經(jīng)成為用戶嘗試其他硬件時的最大障礙。芯片廠商在追趕AI算法和快速演進(jìn)的AI技術(shù)方面存在著明顯差距，軟件系統(tǒng)的遷移工作也給開發(fā)者帶來巨大的工作量以及高額的遷移代價。

對齊需求，打通端口，高效研發(fā)與迭代，快速推動終端AI產(chǎn)業(yè)向前發(fā)展，是產(chǎn)業(yè)當(dāng)務(wù)之急。在本次活動上，“AIPC和EdgeAI聯(lián)合實驗室”正式揭牌。這是一個由安謀科技牽頭、聯(lián)合產(chǎn)業(yè)多方的人工智能平臺，囊括了IP和SoC芯片設(shè)計、OEM/ODM制造、操作系統(tǒng)/BIOS、AI大模型、AI應(yīng)用等產(chǎn)業(yè)全鏈路企業(yè)，專注于國內(nèi)本土AI生態(tài)建設(shè)、社區(qū)發(fā)展以及技術(shù)運營。

當(dāng)前，大模型在AIPC、AI手機(jī)、機(jī)器人等端側(cè)計算場景快速演進(jìn)，亟待整個產(chǎn)業(yè)鏈協(xié)力共建產(chǎn)業(yè)生態(tài)。據(jù)介紹，該聯(lián)合實驗室的成立正是為了解決當(dāng)前產(chǎn)業(yè)鏈所面臨的共性問題，加速端側(cè)AI在跨領(lǐng)域場景中的創(chuàng)新落地。后續(xù)，該聯(lián)合實驗室將從硬件和芯片、軟件和算法、社區(qū)運營等層面全面發(fā)力，攜手包括芯片合作伙伴在內(nèi)的端側(cè)AI生態(tài)伙伴，對接Arm全球生態(tài)，打造中國本土兼容的AI生態(tài)系統(tǒng)，通過增強對AI市場的直接影響力，積極探索并推動實際AI應(yīng)用的落地。

據(jù)公開消息顯示，目前已有智源人工智能研究院、紫光展銳、愛芯元智、六聯(lián)智能、系微軟件、此芯科技、億道數(shù)碼、輝羲智能、面壁智能、零一萬物、中科加禾、瑞莎計算機(jī)等十幾家單位作為首批發(fā)起成員正式加入該聯(lián)合實驗室，覆蓋國內(nèi)AI產(chǎn)業(yè)全鏈路。不難看出，由安謀科技牽頭組局的本土端側(cè)AI生態(tài)在成立伊始既已頗具規(guī)模。

值得一提的是，該聯(lián)合實驗室由漕河涇開發(fā)區(qū)管理公司提供產(chǎn)業(yè)支撐。作為上?？苿?chuàng)中心重要承載區(qū)，漕河涇開發(fā)區(qū)目前已有上萬家企業(yè)進(jìn)駐，其人工智能產(chǎn)業(yè)生態(tài)集聚，應(yīng)用場景豐富，將為AIPC和EdgeAI聯(lián)合實驗室的發(fā)展提供創(chuàng)新沃土。

政策規(guī)劃提供宏觀指引，生態(tài)協(xié)同加速“AI+”發(fā)展

根據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的《生成式人工智能應(yīng)用發(fā)展報告（2024）》，截至2024年6月，我國生成式AI產(chǎn)品用戶規(guī)模已達(dá)2.3億人，備案產(chǎn)品超過309個，AI核心產(chǎn)業(yè)規(guī)模接近6000億元，相關(guān)企業(yè)超過4500家。產(chǎn)業(yè)鏈覆蓋芯片、算法、數(shù)據(jù)、平臺、應(yīng)用等關(guān)鍵環(huán)節(jié)，AI產(chǎn)業(yè)蓬勃發(fā)展。

今年政府工作報告首次強調(diào)“人工智能+”，標(biāo)志著人工智能與實體經(jīng)濟(jì)的深度融合被提升至國家戰(zhàn)略層面。四部門聯(lián)合發(fā)布的《國家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》進(jìn)一步明確了AI產(chǎn)業(yè)的發(fā)展方向，旨在推動產(chǎn)業(yè)高質(zhì)量發(fā)展。

在應(yīng)用端，軟件工具正逐步整合生產(chǎn)式AI功能。相信在2025年，AI將更深入地融入人們的日常生活，AI終端將無處不在，覆蓋衣食住行，極大提升生活質(zhì)量和效率。隨著5G、物聯(lián)網(wǎng)和邊緣計算的普及，端側(cè)AI的應(yīng)用空間將進(jìn)一步擴(kuò)大，為終端設(shè)備帶來新一輪的創(chuàng)新周期。芯片產(chǎn)業(yè)作為AI的底層硬件，應(yīng)把握這一時機(jī)，加速技術(shù)創(chuàng)新和產(chǎn)品升級。

芯片和AI產(chǎn)業(yè)的發(fā)展早已超越國界，形成了全球性的市場和產(chǎn)業(yè)鏈。為了在終端市場獲得持久的競爭優(yōu)勢，芯片和AI產(chǎn)業(yè)必須積極融入全球生態(tài)，通過國際合作與競爭，實現(xiàn)技術(shù)、資本和市場的深度融合。終端AI呼喚著終端芯片的迭代與創(chuàng)新，這是芯片產(chǎn)業(yè)前所未有的機(jī)遇。

作為底層架構(gòu)與生態(tài)的技術(shù)基石，Arm架構(gòu)是整個終端生態(tài)的根系之源，安謀科技是國內(nèi)芯片產(chǎn)業(yè)接軌全球標(biāo)準(zhǔn)的關(guān)鍵紐帶。相信借助安謀科技這一生態(tài)窗口，憑借國產(chǎn)終端市場與AI產(chǎn)業(yè)先發(fā)優(yōu)勢，國產(chǎn)終端AI芯片會實現(xiàn)彎道超車，在生成式AI與終端設(shè)備的蝶變浪潮中占據(jù)有利身位。

結(jié)語

國內(nèi)產(chǎn)業(yè)鏈完整、市場規(guī)模龐大，加之應(yīng)用側(cè)的多元化發(fā)展和終端側(cè)的同步創(chuàng)新，是本土產(chǎn)業(yè)鏈在全球AI產(chǎn)業(yè)中的顯著優(yōu)勢。這些優(yōu)勢不僅推動了國內(nèi)產(chǎn)業(yè)的快速發(fā)展，也為國際合作提供了堅實的基礎(chǔ)。

在芯片和AI產(chǎn)業(yè)的共同促進(jìn)下，通過緊密合作和資源共享，國內(nèi)產(chǎn)業(yè)鏈正在快速成長與強大。在安謀科技等生態(tài)型企業(yè)的牽引下，AI?PC和邊緣智能等產(chǎn)業(yè)生態(tài)的創(chuàng)新發(fā)展，將為端側(cè)AI產(chǎn)業(yè)協(xié)同創(chuàng)新樹立良好典范。隨著芯片、AI以及終端產(chǎn)業(yè)通過共建生態(tài)，協(xié)同發(fā)力，相信本土芯片產(chǎn)業(yè)將借助端側(cè)AI的創(chuàng)新力量，把握技術(shù)變革帶來的產(chǎn)業(yè)機(jī)遇，釋放廣闊的增長潛力。