端側(cè)AI，為什么這么火？

2024年悄然過(guò)半，越來(lái)越多的企業(yè)，開(kāi)始思考AI的落地場(chǎng)景，探索AI如何才能真正賦能用戶。

想要賦能用戶，當(dāng)然就離不開(kāi)終端抓手。我們明顯可以看到，端側(cè)AI的發(fā)展正在成為市場(chǎng)關(guān)注的焦點(diǎn)。除了集成本地大模型的AI手機(jī)大量出現(xiàn)之外，AI PC的概念也不斷走紅。

那么，應(yīng)用場(chǎng)景更多、用戶規(guī)模更大的物聯(lián)網(wǎng)市場(chǎng)，是否也可以進(jìn)行AI落地呢？現(xiàn)在越來(lái)越火的智能模組、AI模組，有什么特別之處？

就在今天剛剛開(kāi)幕的MWC世界移動(dòng)大會(huì)（上海站）上，國(guó)內(nèi)模組一線廠商廣和通展示了他們的多款智能模組產(chǎn)品及解決方案，讓我們對(duì)端側(cè)AI落地有了更全面、更深入的了解。

接下來(lái)，小棗君就給大家做一個(gè)詳細(xì)解讀。

█?智能模組的誕生背景

智能模組在傳統(tǒng)模組的基礎(chǔ)上，通過(guò)集成NPU（神經(jīng)網(wǎng)絡(luò)處理單元）等計(jì)算單元的方式，獲得了更強(qiáng)大的異構(gòu)算力，能夠執(zhí)行機(jī)器學(xué)習(xí)等AI算法，從而實(shí)現(xiàn)傳統(tǒng)物聯(lián)網(wǎng)場(chǎng)景的智能化變革。

從本質(zhì)上來(lái)看，智能模組是一種AI算力的下沉。

完全基于云端AI的方式，終端的數(shù)據(jù)需要通過(guò)網(wǎng)絡(luò)上傳云端，云端經(jīng)過(guò)計(jì)算后，再下發(fā)給終端，會(huì)產(chǎn)生更大的時(shí)延。如果網(wǎng)絡(luò)不穩(wěn)定，也會(huì)更加影響用戶體驗(yàn)。

云端AI，也不滿足部分用戶對(duì)信息安全和物理隔離的需求。

云側(cè)AI+端側(cè)AI

采用端側(cè)AI，數(shù)據(jù)的處理在本地完成，時(shí)延更短，且不容易受到網(wǎng)絡(luò)質(zhì)量的影響。在數(shù)據(jù)隱私保護(hù)上，端側(cè)AI也有先天優(yōu)勢(shì)。

在成本方面，端側(cè)AI減輕了云端的計(jì)算負(fù)荷，可以節(jié)約云基礎(chǔ)設(shè)施方面的投資。

云側(cè)AI，適合處理對(duì)資源消耗較大的訓(xùn)練任務(wù)，以及部分推理任務(wù)。而端側(cè)AI，適合處理即時(shí)性要求高、交互頻繁的推理任務(wù)。

“云+端”的混合AI，已經(jīng)成為當(dāng)前AI應(yīng)用落地的主流趨勢(shì)。

█?智能模組，有哪些應(yīng)用場(chǎng)景？

智能模組作為端側(cè)AI的重要算力載體，是目前行業(yè)關(guān)注的熱點(diǎn)。

在廣和通的展臺(tái)，我們看到了他們此前發(fā)布的SC126、SC138、SC171L、SC171等多款智能模組產(chǎn)品，分別采用了高通QCM2290、高通QCM6125、高通QCM5430/QCS5430、高通QCM6490/QCS6490平臺(tái)。

這些智能模組面向入門(mén)級(jí)、中端、高端，可以滿足客戶對(duì)不同平臺(tái)、性能、算力、成本的差異化需求?；谶@些模組的邊緣AI解決方案，已經(jīng)在機(jī)器人、工控機(jī)、智慧零售、工業(yè)手持、無(wú)人駕駛等領(lǐng)域廣泛應(yīng)用，擁有大量的成功商用案例。

●?割草機(jī)

廣和通不久前發(fā)布的免埋線式割草機(jī)行業(yè)解決方案，就是一個(gè)典型案例。

根據(jù)廣和通MC產(chǎn)品管理部副總裁趙軼的介紹，整個(gè)方案是廣和通基于低速無(wú)人自動(dòng)駕駛平臺(tái)打造的。

該方案以廣和通智能模組（SC171）作為主控，基于Linux邊緣AI解決方案，具備AI邊界識(shí)別及控制能力，可提供基于RTK+VIO融合定位、規(guī)控和感知算法。方案還可以搭載各類(lèi)傳感器，賦能機(jī)器人的室內(nèi)外精準(zhǔn)定位和規(guī)控能力。

廣和通定制了包括雙目攝像頭、RTK定位天線、設(shè)備整板等全套硬件，以包括模組、PCBA、整機(jī)等多種靈活的商務(wù)模式提供給客戶。軟件部分，也全部采用的是廣和通自主研發(fā)的算法（包括定位、行程規(guī)劃等）。

AI訓(xùn)練方面的工作，也是廣和通完成的。他們使用了近百萬(wàn)張草地的圖片、視頻去訓(xùn)練模型，還根據(jù)當(dāng)?shù)氐膱?chǎng)景數(shù)據(jù)進(jìn)行收集，對(duì)算法模型進(jìn)行更新，訓(xùn)練出最符合客戶實(shí)地應(yīng)用的模型，最終交付給客戶。

端側(cè)AI的商業(yè)落地和傳統(tǒng)模式有很大區(qū)別。

對(duì)大部分用戶來(lái)說(shuō)，AI是新生事物。很多用戶并不知道AI到底能為自己做什么，也沒(méi)有明確的應(yīng)用場(chǎng)景，甚至連需求都是模糊的。而且，部署AI有一定的技術(shù)門(mén)檻。包括AI算法的研發(fā)、AI模型的訓(xùn)練、數(shù)據(jù)的收集和處理，都需要具備相應(yīng)的研發(fā)力量和資源。

為了更好地服務(wù)客戶，廣和通采取的做法，是進(jìn)一步延伸服務(wù)范圍，為用戶提供包括軟件、硬件、算法以及模型訓(xùn)練等全方位打包服務(wù)。

廣和通的免埋線式割草機(jī)行業(yè)解決方案，目前正與國(guó)內(nèi)外主流廠商合作，展示了其技術(shù)、數(shù)據(jù)、方案的領(lǐng)先能力，相信很快就能出現(xiàn)在公眾視野。

除了割草機(jī)器人之外，廣和通的方案還覆蓋了服務(wù)機(jī)器人、清潔機(jī)器人、運(yùn)輸機(jī)器人、巡檢機(jī)器人等多個(gè)垂直領(lǐng)域。

● 具身智能

眾所周知，具身智能（Embodied Intelligence，有物理身體并支持物理交互的智能體）是目前人工智能領(lǐng)域的一個(gè)熱門(mén)研究方向。

今年1月，斯坦福大學(xué)、伯克利大學(xué)和谷歌DeepMind團(tuán)隊(duì)合作推出一款名為“Mobile ALOHA”的家用具身機(jī)器人，可以炒菜、煮咖啡甚至逗貓，刷屏全網(wǎng)，也吸引了更多企業(yè)投身這一領(lǐng)域。

為了幫助眾多機(jī)器人廠商客戶快速?gòu)?fù)現(xiàn)及驗(yàn)證Mobile ALOHA的相關(guān)算法，更快更好地研發(fā)具身機(jī)器人產(chǎn)品，廣和通推出了具身智能機(jī)器人開(kāi)發(fā)平臺(tái)——Fibot。

Fibot采用全向輪底盤(pán)設(shè)計(jì)、可拆卸式訓(xùn)練臂結(jié)構(gòu)，機(jī)械臂擁有更多的自由度及臂展范圍。它滿足客戶驗(yàn)證Mobile ALOHA協(xié)同學(xué)習(xí)與簡(jiǎn)單的示教操作數(shù)據(jù)需求，從而習(xí)得機(jī)械臂的高級(jí)移動(dòng)操作功能算法。

Fibot還能通過(guò)底盤(pán)選配的激光雷達(dá)或雙目模組，實(shí)現(xiàn)室內(nèi)外的空間感知及建圖、路徑規(guī)劃和動(dòng)態(tài)避障等算法的二次開(kāi)發(fā)。它還集成了多種深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)AI算法，結(jié)合高效的感知系統(tǒng)與智能決策框架，極大提升了客戶進(jìn)行二次開(kāi)發(fā)的效率。

平臺(tái)方面，F(xiàn)ibot以廣和通高算力智能模組SC171作為主控，基于高通?QCM6490物聯(lián)網(wǎng)解決方案設(shè)計(jì)，采用8核高性能處理器，可對(duì)數(shù)據(jù)進(jìn)行高效計(jì)算與處理，助力終端實(shí)現(xiàn)邊緣計(jì)算和AI特性。

廣和通AIC產(chǎn)品管理部總經(jīng)理張泫舜表示：“廣和通具身智能機(jī)器人開(kāi)發(fā)平臺(tái)Fibot具備感知、視覺(jué)、定位及導(dǎo)航、動(dòng)作控制等底層能力，能更好地賦能客戶實(shí)現(xiàn)AI與機(jī)器人相結(jié)合。隨著AI技術(shù)的突破性進(jìn)展，具身智能的演進(jìn)將成為科技變革的新高地與經(jīng)濟(jì)發(fā)展的加速器?！?/p>

● 其它應(yīng)用領(lǐng)域

除了機(jī)器人之外，我們?cè)倏纯?a class="article-link" target="_blank" href="/tag/%E6%9C%BA%E5%99%A8%E8%A7%86%E8%A7%89/">機(jī)器視覺(jué)、智慧零售和智能家居。

基于AI算法所帶來(lái)的物體檢測(cè)、跟蹤、識(shí)別能力，使得智能模組解決方案可以更好地落地機(jī)器視覺(jué)場(chǎng)景。例如面向工業(yè)領(lǐng)域的產(chǎn)品分揀、面向消費(fèi)領(lǐng)域的車(chē)載相機(jī)，以及面向交通領(lǐng)域的車(chē)流監(jiān)測(cè)等。

智慧零售方面，基于智能模組的端側(cè)AI方面可以應(yīng)用于智能售貨機(jī)以及ECR等收銀終端。

智能售貨機(jī)可以與用戶進(jìn)行對(duì)話互動(dòng)，靈活適配多種語(yǔ)言甚至方言，自動(dòng)處理訂單。不僅節(jié)約了人力成本，也提升了用戶購(gòu)物體驗(yàn)。零售商也可以通過(guò)智能模組獲得關(guān)鍵的消費(fèi)者數(shù)據(jù)洞察，制定對(duì)應(yīng)的市場(chǎng)戰(zhàn)略。

端側(cè)AI在智能家居領(lǐng)域也有很大的市場(chǎng)。

將FWA（固定無(wú)線接入）與AI進(jìn)行融合，可以實(shí)現(xiàn)網(wǎng)絡(luò)精準(zhǔn)預(yù)測(cè)和智能選網(wǎng)策略，重塑網(wǎng)絡(luò)體驗(yàn)與優(yōu)化天線性能。在用戶端，5G FWA融合AI、Matter技術(shù)，可以使家居設(shè)備實(shí)現(xiàn)高效互聯(lián)互通。FWA將成為智慧家庭中心管家。

█ 端側(cè)AI的機(jī)遇和挑戰(zhàn)

AI落地具有很大的想象空間，以上解決方案只是廣和通眾多應(yīng)用案例的一小部分。

從整個(gè)行業(yè)的發(fā)展來(lái)看，端側(cè)AI融合通信是必然趨勢(shì)。將AI能力與IoT場(chǎng)景深度融合，將會(huì)為用戶帶來(lái)巨大的商業(yè)價(jià)值，也擁有廣闊的市場(chǎng)前景。

然后，推動(dòng)端側(cè)AI的落地，并不是一件容易的事情。它也面臨很多挑戰(zhàn)，例如：行業(yè)場(chǎng)景和需求碎片化、標(biāo)準(zhǔn)規(guī)范缺失、技術(shù)門(mén)檻高、成本和功耗敏感等。

廣和通之所以能夠?yàn)橛脩籼峁┩晟频亩藗?cè)AI解決方案，和他們多年的通信行業(yè)沉淀以及在AI領(lǐng)域的持續(xù)投入密不可分。

首先，作為模組廠商，廣和通在通信專(zhuān)業(yè)領(lǐng)域擁有雄厚實(shí)力，對(duì)各項(xiàng)通信技術(shù)標(biāo)準(zhǔn)研究透徹，也能夠提供全球范圍內(nèi)的運(yùn)營(yíng)商認(rèn)證。

其次，廣和通在各個(gè)垂直行業(yè)有豐富的客戶服務(wù)經(jīng)驗(yàn)，對(duì)市場(chǎng)和行業(yè)研究透徹，充分了解用戶的需求。他們能夠針對(duì)不同行業(yè)提供定制化的解決方案，符合行業(yè)標(biāo)準(zhǔn)且具備互操作性。

第三，廣和通在AI領(lǐng)域有長(zhǎng)遠(yuǎn)布局。他們?cè)贏I算法等領(lǐng)域投入了大量的研發(fā)資源，進(jìn)行相關(guān)技術(shù)儲(chǔ)備。當(dāng)大模型浪潮到來(lái)后，他們?cè)诘谝粫r(shí)間就推出自己的行業(yè)模型應(yīng)用，以及智能模組產(chǎn)品。

基于以上幾點(diǎn)，廣和通已經(jīng)在AIoT賽道上搶得先機(jī)，并且獲得了市場(chǎng)和用戶的認(rèn)可。

█ 最后的話

“提速互聯(lián)，智向未來(lái)”，是本次廣和通參加MWC展的主題。

基于強(qiáng)大的通信連接能力，深入融合AI人工智能，是整個(gè)物聯(lián)網(wǎng)行業(yè)今后的發(fā)展方向。在技術(shù)創(chuàng)新的引領(lǐng)下，越來(lái)越多的AIoT場(chǎng)景講出現(xiàn)在我們身邊，推動(dòng)整個(gè)社會(huì)走向真正的“數(shù)智時(shí)代”。