年度盤點(diǎn)④|盤點(diǎn)大模型時(shí)代的中國(guó)制造：硬件界的下一個(gè)熱點(diǎn)？

作者：Carol，物聯(lián)網(wǎng)智庫(kù) 原創(chuàng)

去年11月，OpenAI以低調(diào)姿態(tài)推出ChatGPT，“大模型時(shí)代”的序幕自此緩緩拉開。

一年后，OpenAI舉辦了首屆DevDay開發(fā)者大會(huì)，重磅展示了GPT-4 Turbo等新進(jìn)展，不僅呈現(xiàn)了知識(shí)庫(kù)更新和處理能力的飛躍，更是再次提醒了全球技術(shù)圈：我們正駛?cè)胍粋€(gè)迅猛發(fā)展的新紀(jì)元。

在這個(gè)紀(jì)元中，大模型不再局限于理論研究或大規(guī)模數(shù)據(jù)中心的應(yīng)用，而是向各類硬件平臺(tái)拓展。范圍從高性能服務(wù)器擴(kuò)散至日常移動(dòng)設(shè)備，乃至在各種邊緣場(chǎng)景中部署大模型。此外，具身智能（Embodied AI）如智能機(jī)器人和自動(dòng)化系統(tǒng)的應(yīng)用，更是展現(xiàn)了與物理世界互動(dòng)的新維度。這種技術(shù)應(yīng)用的廣泛擴(kuò)展和深化，不僅彰顯了算力和智能化的進(jìn)步，也正在推動(dòng)行業(yè)界限的不斷拓寬。

然而，大模型在硬件領(lǐng)域的落地同樣面臨著諸多挑戰(zhàn)。它要求硬件具備足夠的計(jì)算能力來(lái)處理復(fù)雜的AI模型，亦需在功耗、體積及成本間尋找平衡點(diǎn)。在此背景下，中國(guó)企業(yè)在硬件應(yīng)用方面展示了顯著的發(fā)展和獨(dú)特的創(chuàng)新潛力。從數(shù)據(jù)中心到邊緣計(jì)算設(shè)備，智能手機(jī)到智能機(jī)器人，中國(guó)企業(yè)正在開拓大模型在硬件領(lǐng)域的應(yīng)用前景。

為了更直觀地展現(xiàn)國(guó)內(nèi)大模型在硬件領(lǐng)域應(yīng)用的現(xiàn)狀，本文將盤點(diǎn)在該領(lǐng)域活躍和具有代表性的中國(guó)企業(yè)。希望提供一個(gè)清晰的視角，讓大家了解在這一領(lǐng)域中，中國(guó)企業(yè)的活躍態(tài)勢(shì)和創(chuàng)新動(dòng)向。

本次針對(duì)大模型在硬件領(lǐng)域落地情況的盤點(diǎn)，將重點(diǎn)分為兩大部分：在邊緣場(chǎng)景中實(shí)現(xiàn)的行業(yè)大模型和具身智能（Embodied AI）。在邊緣場(chǎng)景中實(shí)現(xiàn)的行業(yè)大模型關(guān)注的是如何在資源受限的環(huán)境中高效運(yùn)行先進(jìn)的AI模型；而具身智能Embodied AI則探索將AI技術(shù)與機(jī)器人或其他物理設(shè)備的結(jié)合，實(shí)現(xiàn)更高級(jí)別的自動(dòng)化和智能化。通過(guò)對(duì)這兩個(gè)領(lǐng)域的深入盤點(diǎn)，不僅能夠展現(xiàn)中國(guó)企業(yè)在技術(shù)上的創(chuàng)新和應(yīng)用，也能夠捕捉到整個(gè)行業(yè)未來(lái)發(fā)展的脈動(dòng)。本文將主要盤點(diǎn)在邊緣場(chǎng)景中實(shí)現(xiàn)的行業(yè)大模型部分。

行業(yè)進(jìn)展管窺：在邊緣場(chǎng)景中實(shí)現(xiàn)的大模型飛躍

在我們周圍，智能技術(shù)正不斷地創(chuàng)新和變革。無(wú)論是工廠的自動(dòng)化生產(chǎn)線、醫(yī)療系統(tǒng)中的數(shù)據(jù)分析，還是城市交通的智能管理，這些改變正是行業(yè)大模型技術(shù)在邊緣場(chǎng)景應(yīng)用的直接體現(xiàn)。這些技術(shù)的融入，雖不易察覺，卻在根本上改變了我們的工作和生活方式。

這些大模型在邊緣場(chǎng)景中的應(yīng)用，使得數(shù)據(jù)處理和智能決策不再完全依賴遠(yuǎn)程數(shù)據(jù)中心。它們的魅力在于優(yōu)化現(xiàn)有技術(shù)，提高效率，同時(shí)降低能耗。無(wú)論是在工業(yè)自動(dòng)化、健康監(jiān)測(cè)還是智慧城市規(guī)劃中，這些技術(shù)都在提升響應(yīng)速度和處理效率，同時(shí)保護(hù)用戶隱私并節(jié)約資源。

中國(guó)企業(yè)在這個(gè)領(lǐng)域展現(xiàn)出顯著的發(fā)展和創(chuàng)新潛力。從智能工廠到智慧醫(yī)療，再到城市交通系統(tǒng)，它們正在將大模型技術(shù)應(yīng)用于實(shí)際場(chǎng)景，推動(dòng)著行業(yè)向更高效、更智能化的方向發(fā)展。這不僅是對(duì)技術(shù)進(jìn)步的回應(yīng)，更是對(duì)日益增長(zhǎng)的環(huán)保和能效需求的積極回應(yīng)。

在接下來(lái)的內(nèi)容中，我們將盤點(diǎn)中國(guó)企業(yè)在邊緣場(chǎng)景中應(yīng)用大模型技術(shù)的表現(xiàn)。通過(guò)這些盤點(diǎn)，我們可以看到大模型技術(shù)如何在實(shí)際業(yè)務(wù)中發(fā)揮作用，更重要的是，可以更清晰地感受大模型技術(shù)如何成為推動(dòng)未來(lái)社會(huì)發(fā)展的重要?jiǎng)恿Α?/p>

1. 華為

華為將大模型運(yùn)用在邊緣場(chǎng)景中的體現(xiàn)，主要集中在其智能手機(jī)和穿戴設(shè)備的AI處理能力上。華為開發(fā)了具有神經(jīng)處理單元（NPU）的麒麟系列處理器，例如麒麟 970 和麒麟 980 芯片。這些NPU專為高效的機(jī)器學(xué)習(xí)任務(wù)設(shè)計(jì)，能夠在手機(jī)和其他智能設(shè)備上實(shí)時(shí)處理復(fù)雜的AI計(jì)算，例如圖像識(shí)別和語(yǔ)音處理。這些處理器的關(guān)鍵創(chuàng)新在于它們能夠在非常低的功耗下運(yùn)行大型神經(jīng)網(wǎng)絡(luò)模型，使設(shè)備能夠快速響應(yīng)并進(jìn)行實(shí)時(shí)數(shù)據(jù)處理。

華為旗艦系列手機(jī)已經(jīng)利用NPU來(lái)提升攝影體驗(yàn)。通過(guò)在設(shè)備端運(yùn)行的大型神經(jīng)網(wǎng)絡(luò)模型，華為的智能手機(jī)能夠?qū)崿F(xiàn)場(chǎng)景優(yōu)化、人臉識(shí)別和圖像增強(qiáng)等功能；在華為智能手表和健康追蹤設(shè)備上也集成了NPU，使得這些設(shè)備能夠進(jìn)行健康數(shù)據(jù)的實(shí)時(shí)分析和監(jiān)測(cè)。例如，心率監(jiān)測(cè)、睡眠質(zhì)量分析和運(yùn)動(dòng)模式識(shí)別等功能，都是通過(guò)在設(shè)備上運(yùn)行的機(jī)器學(xué)習(xí)模型實(shí)現(xiàn)的。這些功能的關(guān)鍵在于能夠在設(shè)備上直接處理復(fù)雜的數(shù)據(jù)集，而不依賴遠(yuǎn)程服務(wù)器，從而確保數(shù)據(jù)處理的快速性和隱私性。

此外，華為開發(fā)的盤古大模型 3.0 版本采用了“5+N+X”三層架構(gòu)，以適應(yīng)不同行業(yè)和場(chǎng)景的需求。這三層分別包括：L0層的5個(gè)基礎(chǔ)大模型（自然語(yǔ)言、視覺、多模態(tài)、預(yù)測(cè)、科學(xué)計(jì)算）、L1層的N個(gè)行業(yè)通用大模型、以及L2層的用戶自主訓(xùn)練的細(xì)化場(chǎng)景模型。值得注意的是，基于盤古大模型3.0的“5+N+X”三層架構(gòu)，已經(jīng)為煤礦、鐵路、氣象、金融、制造、藥物研發(fā)等不同行業(yè)和場(chǎng)景提供了專門定制的解決方案。雖然這些大模型技術(shù)目前主要在服務(wù)器和云平臺(tái)層面應(yīng)用，但它們對(duì)硬件設(shè)備的影響是間接的。例如，在云服務(wù)支持的智能應(yīng)用中，這些大模型提供了強(qiáng)大的后端支持，從而使得前端的硬件設(shè)備能夠執(zhí)行復(fù)雜的任務(wù)，如數(shù)據(jù)分析和智能決策。

2. 360

今年，360正式推出了360智腦·視覺大模型。這是360集團(tuán)在大模型技術(shù)上的重要?jiǎng)?chuàng)新，主要專注于視覺數(shù)據(jù)的處理，具備強(qiáng)大的圖像和視頻理解能力。這種視覺大模型不僅提高了對(duì)視覺內(nèi)容的認(rèn)知精度，還具有優(yōu)秀的泛化能力，能夠減少對(duì)傳統(tǒng)深度學(xué)習(xí)算法大量數(shù)據(jù)的依賴性。因此，360在大模型落地硬件領(lǐng)域的表現(xiàn)，主要集中在其安全產(chǎn)品和智能硬件方面。

多模態(tài)大模型與物聯(lián)網(wǎng)的結(jié)合：360通過(guò)將多模態(tài)大模型與物聯(lián)網(wǎng)技術(shù)相結(jié)合，顯著提升了智能硬件的數(shù)據(jù)處理和分析能力。這種結(jié)合使得從物聯(lián)網(wǎng)設(shè)備收集的數(shù)據(jù)能夠被更加有效地融合和學(xué)習(xí)，從而在安防、巡店、看護(hù)等多種場(chǎng)景中產(chǎn)生更大的應(yīng)用價(jià)值。

邊緣計(jì)算的強(qiáng)化：360的新一代智能硬件產(chǎn)品采用了邊緣計(jì)算技術(shù)，能夠在設(shè)備端進(jìn)行數(shù)據(jù)處理和分析，而不完全依賴于云端。這種技術(shù)能夠減少對(duì)中央處理服務(wù)器的依賴，降低延遲，提高響應(yīng)速度。基于360智腦·視覺大模型的智能硬件產(chǎn)品，如戶外球機(jī)、槍球一體機(jī)、雙目拼接全景攝像機(jī)、家用攝像機(jī)、可視門鈴、行車記錄儀等，都具備了強(qiáng)大的邊緣計(jì)算能力。能夠在本地處理大量數(shù)據(jù)，而且能夠更有效地適應(yīng)不同的應(yīng)用場(chǎng)景，從而在諸如智能安防等領(lǐng)域中實(shí)現(xiàn)更高效的應(yīng)用。

3. 百度

在今年的“百模大戰(zhàn)”中，百度的“文心一言”可謂是國(guó)內(nèi)最早一批大模型先鋒。如今，百度通過(guò)將其大模型“文心”與深度學(xué)習(xí)平臺(tái)“飛槳”進(jìn)行緊密的技術(shù)升級(jí)與協(xié)同優(yōu)化，顯著提升了文心大模型的訓(xùn)練速度和推理效率。近期，百度發(fā)布了飛槳開源框架v2.5，這是百度在大模型落地硬件領(lǐng)域的一個(gè)重要里程碑。這個(gè)框架全面完成了架構(gòu)升級(jí)，并在大模型訓(xùn)練、推理和多硬件適配方面帶來(lái)了新的功能。特別是在硬件資源層面，飛槳與文心進(jìn)行了協(xié)同優(yōu)化，提升了訓(xùn)練吞吐速度和收斂效率，降低了大模型訓(xùn)練的資源消耗。

智能音箱與智能屏的創(chuàng)新：百度率先推出帶屏智能音箱“小度在家”，開辟了智能音箱的新領(lǐng)域。通過(guò)加入屏幕，百度的智能音箱不僅提供聲音交互，還增加了視覺交互，為用戶創(chuàng)造更豐富的智能生活體驗(yàn)。

智能硬件的多樣化：百度通過(guò)小度科技推出了包括智能屏、健身鏡、學(xué)習(xí)平板、耳機(jī)、電視等多種智能硬件產(chǎn)品，這些產(chǎn)品通過(guò)大模型技術(shù)實(shí)現(xiàn)了更智能的交互和服務(wù)。

AI大模型在教育賽道的應(yīng)用：百度推出的智能學(xué)習(xí)平板集成了大模型技術(shù)，成為教育領(lǐng)域的一個(gè)增長(zhǎng)點(diǎn)。通過(guò)這種方式，百度將AI大模型技術(shù)應(yīng)用于實(shí)際的消費(fèi)電子產(chǎn)品中，提升了產(chǎn)品的智能化水平。

大模型與硬件產(chǎn)品的深度融合：百度宣布將融合文心一言，打造專門針對(duì)智能設(shè)備場(chǎng)景的AI模型“小度靈機(jī)”，并計(jì)劃將其應(yīng)用于小度的全系產(chǎn)品中。

在硬件適配和生態(tài)共建方面，文心大模型與英偉達(dá)、寒武紀(jì)、華為等12家硬件伙伴進(jìn)行適配，覆蓋云和端側(cè)多種硬件類型。其中，百度飛槳與英特爾? OpenVINO? 圍繞模型構(gòu)建、優(yōu)化及部署三個(gè)方面的合作不斷深入，不僅幫助開發(fā)者減少中間環(huán)節(jié)，還能夠讓一些大模型在邊緣部署成為可能，優(yōu)化了整個(gè)的邊緣推理和操作流程。目前，英特爾? OpenVINO? 不僅能夠支持飛槳模型在英特爾 CPU 和集成顯卡上部署、在英特爾獨(dú)立顯卡上部署，還可以通過(guò)一行代碼支持飛槳模型在多張獨(dú)立顯卡上部署。與英特爾的合作，不僅加強(qiáng)了大模型技術(shù)在硬件領(lǐng)域的實(shí)用性和可行性，也對(duì)推動(dòng)大模型技術(shù)的廣泛應(yīng)用和行業(yè)創(chuàng)新起到了積極作用。

4. 聯(lián)想

在今年10月底的聯(lián)想的Tech World大會(huì)上，聯(lián)想集團(tuán)宣布全面擁抱大模型時(shí)代，將大模型落地規(guī)劃放在端側(cè)大模型上，強(qiáng)調(diào)在端側(cè)運(yùn)行大模型推理，不但可以避開網(wǎng)絡(luò)的限制，同時(shí)端側(cè)大模型因?yàn)槟軌蚪Y(jié)合個(gè)人的數(shù)據(jù)，能夠做到更好的大模型效果，真正達(dá)到「人工智能雙胞胎」的效果。

據(jù)統(tǒng)計(jì)，端側(cè)大模型應(yīng)用方面，聯(lián)想實(shí)現(xiàn)了以下關(guān)鍵進(jìn)展：

AI PC的概念提出和展示：聯(lián)想提出了AI PC的概念，能夠創(chuàng)建個(gè)性化的本地知識(shí)庫(kù)，并通過(guò)模型壓縮技術(shù)運(yùn)行個(gè)人大模型，實(shí)現(xiàn)更自然的AI交互和更高效的生產(chǎn)力。

在手機(jī)端運(yùn)行大模型：推出支持在聯(lián)想手機(jī)端運(yùn)行的大模型 Moto AI。通過(guò)用戶不斷與 Moto AI的交互，讓 Moto AI 了解并記住該用戶的喜好、習(xí)慣和個(gè)人風(fēng)格。例如問(wèn) Moto AI “是否有我喜歡的歌手在今年的 Austin City Limits 音樂(lè)節(jié)上演出？”，大約30秒便可以給出正確答案。雖然目前回答時(shí)間比較長(zhǎng)，但端側(cè)大模型支持在飛行模式下運(yùn)行，且能夠利用端側(cè)的個(gè)人信息，理解到「我喜歡的歌手」是誰(shuí)，并給出較新的大模型內(nèi)置知識(shí)（能回答關(guān)于今年音樂(lè)節(jié)的內(nèi)容）。

大模型壓縮技術(shù)：為了使大模型能夠在端側(cè)設(shè)備上運(yùn)行，聯(lián)想開發(fā)了一種模型壓縮技術(shù)。這項(xiàng)技術(shù)能夠有效減小大模型的體積，同時(shí)保持其性能，使得原本僅能在云端運(yùn)行的大模型可以在個(gè)人電腦或智能手機(jī)等設(shè)備上運(yùn)行。

個(gè)性化和隱私保護(hù)：通過(guò)在端側(cè)運(yùn)行大模型，聯(lián)想的設(shè)備能夠利用本地存儲(chǔ)的個(gè)人數(shù)據(jù)進(jìn)行推理，從而提供更個(gè)性化的服務(wù)和建議。同時(shí)，這種方法確保了個(gè)人數(shù)據(jù)的隱私性，因?yàn)閿?shù)據(jù)不會(huì)被發(fā)送到公有云或共享。

端側(cè)與云端的結(jié)合：聯(lián)想的混合人工智能計(jì)劃強(qiáng)調(diào)了端側(cè)大模型與云端大模型的結(jié)合，提供了一個(gè)安全、高效的AI解決方案，既能夠利用云端的強(qiáng)大計(jì)算能力，又能夠確保個(gè)人和企業(yè)數(shù)據(jù)的隱私安全。

5. 新華三

要想更好地適配和滿足AI大模型需求，需要新的存儲(chǔ)產(chǎn)品形態(tài)，對(duì)產(chǎn)品硬件和架構(gòu)進(jìn)行重構(gòu)是必然的，對(duì)存儲(chǔ)性能和體驗(yàn)的雙重提升，也是新華三未來(lái)整體戰(zhàn)略的縮影。具體而言，新華三著重強(qiáng)化AI算力，在優(yōu)化存儲(chǔ)與內(nèi)存、并行計(jì)算和分布式訓(xùn)練、節(jié)能和綠色數(shù)據(jù)中心方面也提出了重要升級(jí)，這些措施共同推動(dòng)了大模型向硬件領(lǐng)域的有效落地。

強(qiáng)化AI算力

服務(wù)器升級(jí)：新華三推出的H3C UniServer G6和HPE Gen11系列服務(wù)器，針對(duì)AI應(yīng)用進(jìn)行了性能優(yōu)化，AI算力提升高達(dá)10倍，通用算力性能提升53%。

專用AI服務(wù)器：發(fā)布了專門為大模型訓(xùn)練設(shè)計(jì)的H3C UniServer R5500 G6服務(wù)器，以及適用于大規(guī)模推理/訓(xùn)練場(chǎng)景的H3C UniServer R5300 G6。

硬件配置：R5500 G6配備NVIDIA HGX H800 8-GPU模組，支持GPU間高速通信，提升AI應(yīng)用性能。這些服務(wù)器基于模塊化設(shè)計(jì)，可根據(jù)業(yè)務(wù)需求選擇CPU和AI平臺(tái)。

存儲(chǔ)與內(nèi)存優(yōu)化

新一代智慧存儲(chǔ)：發(fā)布了X10000智慧存儲(chǔ)，專門優(yōu)化以支持AI應(yīng)用，包括改進(jìn)的AI存儲(chǔ)智慧中樞3.0版。

存儲(chǔ)性能提升：實(shí)現(xiàn)系統(tǒng)資源凈空預(yù)測(cè)，提升數(shù)據(jù)分析效率，支持應(yīng)用層面的壓力感知和變化，為AI大模型提供更高效的存儲(chǔ)解決方案。

并行計(jì)算和分布式訓(xùn)練

智算解決方案：推出傲飛算力平臺(tái)，支持異構(gòu)計(jì)算資源統(tǒng)一管理和多元算力資源智能調(diào)度。

高性能網(wǎng)絡(luò)聯(lián)接：支持400G RoCE和400G IB兩種組網(wǎng)方式，以優(yōu)化AIGC計(jì)算的連接需求。

分布式存儲(chǔ)能力：提供8000節(jié)點(diǎn)的AI集群調(diào)度能力和60萬(wàn)IOPS的分布式存儲(chǔ)能力，以滿足高性能并行數(shù)據(jù)處理需求。

節(jié)能和綠色數(shù)據(jù)中心

全棧液冷解決方案：實(shí)現(xiàn)數(shù)據(jù)中心運(yùn)維效率和可靠性的全面提升，同時(shí)提高部署密度和交付效率。

PUE優(yōu)化：通過(guò)智能溫控技術(shù)減少關(guān)鍵制冷、散熱環(huán)節(jié)的能耗，降低數(shù)據(jù)中心PUE至1.1以下，實(shí)現(xiàn)節(jié)能減排。

6. 邊無(wú)際

邊無(wú)際在將大模型技術(shù)應(yīng)用于硬件領(lǐng)域方面，通過(guò)開發(fā)ChatIoT，首次將大模型技術(shù)應(yīng)用于物聯(lián)網(wǎng)領(lǐng)域。通過(guò)將大模型與物聯(lián)網(wǎng)開發(fā)框架Shifu深度融合，構(gòu)建了新的AIoT生態(tài)?？梢詫?shí)現(xiàn)自然語(yǔ)言面向設(shè)備的編程，并開放標(biāo)準(zhǔn)的API，讓ChatGPT等應(yīng)用能夠充分利用設(shè)備的能力。在邊無(wú)際的技術(shù)基礎(chǔ)上，AI大模型可以在設(shè)備互聯(lián)互通的基礎(chǔ)上，進(jìn)行應(yīng)用的下發(fā)與部署。邊無(wú)際自主研發(fā)的Shifu作為一個(gè)中間件，將自然語(yǔ)言命令翻譯成設(shè)備特定的命令。

ChatIoT實(shí)現(xiàn)了LLM在物聯(lián)網(wǎng)應(yīng)用中的標(biāo)準(zhǔn)化模式，這使得開發(fā)者可以通過(guò)自然語(yǔ)言與物聯(lián)網(wǎng)設(shè)備進(jìn)行交互，無(wú)需傳統(tǒng)編程即可構(gòu)建AIoT場(chǎng)景。邊無(wú)際的技術(shù)實(shí)現(xiàn)了在物聯(lián)網(wǎng)中將自然語(yǔ)言轉(zhuǎn)換為設(shè)備特定命令的能力，從而使大模型技術(shù)在物聯(lián)網(wǎng)設(shè)備接入和應(yīng)用開發(fā)中發(fā)揮作用，提高了開發(fā)效率，也降低了技術(shù)門檻。

7. 江行智能

江行智能在大模型落地硬件方面的主要成果體現(xiàn)在其DK701智能終端平臺(tái)的開發(fā)和應(yīng)用?！?】這一平臺(tái)專為新型電力系統(tǒng)業(yè)務(wù)場(chǎng)景設(shè)計(jì)，具備模組化結(jié)構(gòu)，可靈活擴(kuò)展以滿足不同場(chǎng)景需求。DK701智能終端平臺(tái)的關(guān)鍵特點(diǎn)包括數(shù)據(jù)采集、數(shù)據(jù)管理、協(xié)議適配、安全管理等多項(xiàng)功能，特別是在數(shù)據(jù)實(shí)效性、運(yùn)行處理效率、隱私安全性方面具有領(lǐng)先優(yōu)勢(shì)。

此外，DK701智能終端平臺(tái)還支持多元異構(gòu)數(shù)據(jù)統(tǒng)一接入和毫秒級(jí)柔性調(diào)控設(shè)備等技術(shù)，適用于資源聚合調(diào)控、能源監(jiān)測(cè)、邊緣EMS、碳排放管理等業(yè)務(wù)場(chǎng)景。江行智能的這些創(chuàng)新在邊緣計(jì)算智能終端產(chǎn)品領(lǐng)域?yàn)橥苿?dòng)虛擬電廠及電力能源產(chǎn)業(yè)發(fā)展做出了重要貢獻(xiàn)。

8. 宇視科技

宇視科技針對(duì)AIoT行業(yè)推出了名為“梧桐”的行業(yè)大模型，專注于滿足AIoT行業(yè)的特定需求【10】。該模型覆蓋計(jì)算機(jī)視覺（CV）、自然語(yǔ)言處理（NLP）和多模態(tài)（MM）等多項(xiàng)能力。宇視還推出了AI長(zhǎng)尾算法云訓(xùn)練平臺(tái)和邊緣AI推訓(xùn)一體機(jī)，致力于解決AIoT行業(yè)的技術(shù)分層問(wèn)題、提高效率、挖掘新業(yè)務(wù)藍(lán)海，并加強(qiáng)內(nèi)容保真。通過(guò)這些能力，宇視助力AIoT生態(tài)伙伴找到AI高價(jià)值產(chǎn)品落地的控制點(diǎn)，并大大降低AIoT長(zhǎng)尾需求的技術(shù)門檻。

梧桐行業(yè)大模型：宇視科技專為AIoT行業(yè)設(shè)計(jì)的大模型，涵蓋計(jì)算機(jī)視覺（CV）、自然語(yǔ)言處理（NLP）、多模態(tài)（MM）等能力。梧桐大模型通過(guò)行業(yè)場(chǎng)景學(xué)習(xí)和訓(xùn)練調(diào)優(yōu)，能夠高效地處理行業(yè)特定任務(wù)。

云訓(xùn)練平臺(tái)和邊緣AI推訓(xùn)一體機(jī)：這些技術(shù)產(chǎn)品支持AI長(zhǎng)尾算法的訓(xùn)練和部署，提高AIoT產(chǎn)品的效率和效果。允許客戶以更低的成本獲取更優(yōu)的AI性能。

數(shù)據(jù)加密和身份認(rèn)證：結(jié)合區(qū)塊鏈技術(shù)，保證數(shù)據(jù)的安全性和不可篡改性，增強(qiáng)監(jiān)測(cè)和調(diào)控業(yè)務(wù)的安全可信水平。

9. 曠視科技

礦視科技方面曾強(qiáng)調(diào)過(guò)其將專注于“AI in Physical”（物理世界中的人工智能）。也就是將會(huì)把重點(diǎn)放在通過(guò)智能機(jī)器人等硬件載體對(duì)物理世界的改造，而不是僅限于數(shù)字世界的AI應(yīng)用。這種方法強(qiáng)調(diào)在工業(yè)、制造、物流等實(shí)體產(chǎn)業(yè)中實(shí)現(xiàn)AI技術(shù)與硬件載體的結(jié)合，以充分釋放AI的潛力。

智能托盤四向車系統(tǒng)：這是曠視推出的代表性產(chǎn)品之一，展示了他們?cè)谲浻惨惑w化方面的創(chuàng)新。這個(gè)系統(tǒng)使倉(cāng)儲(chǔ)物流更加標(biāo)準(zhǔn)化、模塊化，提供柔性、成本效益高、易于部署和擴(kuò)展的解決方案，與傳統(tǒng)自動(dòng)化設(shè)備相比，具有更高的靈活性。

人工智能體育助教-曠視運(yùn)動(dòng)猿：曠視還推出了面向?qū)W校體育教育的AI體育助教。這個(gè)系統(tǒng)由訓(xùn)練桿和智能塢組成，支持多種體育運(yùn)動(dòng)項(xiàng)目，顯示了曠視在教育領(lǐng)域的AI應(yīng)用。

大模型的研究和應(yīng)用：曠視對(duì)大模型的研究持續(xù)深入，他們專注于核心模型設(shè)計(jì)，并在多模態(tài)大模型方面取得了原創(chuàng)成果。這表明曠視不僅在開發(fā)具體的AI硬件產(chǎn)品上取得進(jìn)展，而且在AI模型的基礎(chǔ)研究和開發(fā)方面也處于領(lǐng)先地位。

軟硬一體化解決方案：曠視堅(jiān)持軟硬一體化的產(chǎn)品策略，通過(guò)算法定義硬件，創(chuàng)建標(biāo)準(zhǔn)化的AI產(chǎn)品，簡(jiǎn)化客戶接入人工智能的過(guò)程。這種方法旨在承接復(fù)雜的場(chǎng)景需求，同時(shí)為用戶提供簡(jiǎn)單易用的解決方案。

AIoT（人工智能物聯(lián)網(wǎng)）應(yīng)用：在消費(fèi)物聯(lián)網(wǎng)、城市物聯(lián)網(wǎng)、供應(yīng)鏈物聯(lián)網(wǎng)等領(lǐng)域，曠視提供軟硬一體化的AIoT解決方案，以幫助各行各業(yè)提高效率和降低成本。

10. 商湯科技

在2023年的世界人工智能大會(huì)上，商湯科技再次提升了其“商湯日日新SenseNova”大模型體系，同時(shí)推出了一系列更新的大模型產(chǎn)品和成果。除了提升了大模型的核心能力，還加快了其在多個(gè)行業(yè)的實(shí)際應(yīng)用和落地，包括金融、醫(yī)療、電商、移動(dòng)終端等領(lǐng)域，推動(dòng)了AI與大模型技術(shù)在端側(cè)落地的進(jìn)程。

商湯SenseChat 2.0：作為一種自然語(yǔ)言處理模型，突破了輸入長(zhǎng)度限制，提供不同參數(shù)量級(jí)的模型版本，適應(yīng)多樣化的終端和應(yīng)用場(chǎng)景。

商湯秒畫SenseMirage 3.0：參數(shù)量提升至70億，實(shí)現(xiàn)更高級(jí)別的圖片細(xì)節(jié)刻畫，強(qiáng)化圖像生成能力。

商湯如影SenseAvatar 2.0：數(shù)字人生成平臺(tái)，實(shí)現(xiàn)了語(yǔ)音和口型的顯著流暢度提升，支持4K高清視頻效果。

商湯瓊宇SenseSpace 2.0 和 商湯格物SenseThings 2.0：空間重建和物體紋理還原的顯著提升，優(yōu)化了3D建模和物體識(shí)別能力。

11. 寒武紀(jì)：

寒武紀(jì)是中國(guó)人工智能芯片領(lǐng)域的先驅(qū)之一。據(jù)寒武紀(jì)2022年度報(bào)告顯示，在互聯(lián)網(wǎng)行業(yè)，寒武紀(jì)的思元370芯片及加速卡與數(shù)家頭部互聯(lián)網(wǎng)企業(yè)在視覺、語(yǔ)音、圖文識(shí)別、自然語(yǔ)言處理等場(chǎng)景下完成了適配工作。在處理器設(shè)計(jì)、加速卡開發(fā)和軟件優(yōu)化方面，也為大模型的發(fā)展和應(yīng)用提供了重要的硬件和軟件支持。

AI芯片技術(shù)創(chuàng)新：寒武紀(jì)專注于人工智能芯片的研發(fā)，尤其是在處理器架構(gòu)方面的創(chuàng)新。其芯片產(chǎn)品設(shè)計(jì)旨在優(yōu)化大數(shù)據(jù)處理和機(jī)器學(xué)習(xí)任務(wù)，為大模型的訓(xùn)練和推理提供了強(qiáng)大的硬件支持。

多樣化產(chǎn)品線：寒武紀(jì)推出了多種產(chǎn)品線，如寒武紀(jì)1A、1H、1M系列智能處理器，以及思元100、270、290和370云端智能加速卡系列。這些產(chǎn)品針對(duì)不同的應(yīng)用場(chǎng)景，提供了高效的AI處理能力，特別是在大模型訓(xùn)練和推理方面。

新款智能加速卡的發(fā)布：寒武紀(jì)基于思元370云端智能芯片推出的MLU370-X8/M8加速卡，支持芯片間互聯(lián)，滿足多樣化人工智能模型的訓(xùn)練和推理需求。這對(duì)于大模型的高效訓(xùn)練和推理至關(guān)重要。

玄思1001智能加速器：寒武紀(jì)的玄思1001智能加速器，集成多張MLU370-M8智能加速卡，提供大容量?jī)?nèi)存支持，支撐智能模型的分布式訓(xùn)練需求。這對(duì)于大模型的訓(xùn)練尤其重要，因?yàn)榇竽Ｐ托枰薮蟮挠?jì)算資源和存儲(chǔ)容量。

軟件棧的持續(xù)發(fā)展：寒武紀(jì)不斷推進(jìn)通用性訓(xùn)練軟件棧的研發(fā)和改進(jìn)工作，例如支撐新的硬件平臺(tái)、數(shù)據(jù)精度，以及新的框架版本，這對(duì)大模型的訓(xùn)練和推理性能有著直接影響。

技術(shù)壁壘與應(yīng)用廣泛性：寒武紀(jì)所研發(fā)的通用型智能芯片產(chǎn)品具有高技術(shù)壁壘，能夠適應(yīng)人工智能領(lǐng)域高度多樣化的應(yīng)用場(chǎng)景，包括視覺、語(yǔ)音、自然語(yǔ)言理解等，這為大模型的應(yīng)用提供了廣闊的空間。

大模型訓(xùn)練與應(yīng)用的探索：寒武紀(jì)與互聯(lián)網(wǎng)企業(yè)的合作，展示了其在大模型訓(xùn)練和應(yīng)用方面的實(shí)際探索，這對(duì)于理解和優(yōu)化大模型在實(shí)際場(chǎng)景中的表現(xiàn)至關(guān)重要。

12. 思必馳（AISpeech）：

思必馳在大模型落地硬件領(lǐng)域的發(fā)展重點(diǎn)在于創(chuàng)新通用大模型的設(shè)計(jì)、提升語(yǔ)言交互能力，以及優(yōu)化智能硬件交互的應(yīng)用場(chǎng)景。正如百度通過(guò)其“文心一言”大模型與深度學(xué)習(xí)平臺(tái)“飛槳”的緊密融合所展現(xiàn)的技術(shù)實(shí)力，思必馳也在通過(guò)DFM-2大模型在大模型領(lǐng)域競(jìng)爭(zhēng)中確立其地位。

DFM-2大模型：發(fā)布了百億級(jí)參數(shù)的通用大模型“DFM-2”（Dialogue Foundation Model-2），專注于提供高度精準(zhǔn)和實(shí)時(shí)的語(yǔ)言交互服務(wù)。DFM-2被定位為一個(gè)相對(duì)大規(guī)模的行業(yè)大模型，專門針對(duì)特定行業(yè)的需要進(jìn)行優(yōu)化。

DFM-2大模型的五大核心能力提升

外部信源增強(qiáng)的精準(zhǔn)推理決策：提供更復(fù)雜、更準(zhǔn)確、更實(shí)時(shí)的信息服務(wù)。

基于深度認(rèn)知的通用語(yǔ)義理解：提高產(chǎn)品的口語(yǔ)理解能力和交互準(zhǔn)確率。

可信主動(dòng)知識(shí)問(wèn)答：基于文檔理解提供專業(yè)服務(wù)如售后客服、法律咨詢等。

多人設(shè)交互的個(gè)性化：支持單設(shè)備多角色，靈活切換，提供差異化服務(wù)。

復(fù)雜任務(wù)的自動(dòng)規(guī)劃與執(zhí)行：使機(jī)器人能夠通過(guò)大模型拆解和規(guī)劃任務(wù)，執(zhí)行復(fù)雜操作。

在與智能硬件的交互的應(yīng)用場(chǎng)景，則集中在智能汽車、智能家居、政務(wù)服務(wù)、醫(yī)療健康和科學(xué)研究等領(lǐng)域體現(xiàn)，并將針對(duì)個(gè)人電腦、智能手機(jī)等端側(cè)設(shè)備優(yōu)化大模型運(yùn)行，以此提升效率和響應(yīng)速度。

13. OPPO

OPPO 在最新一屆ODC開發(fā)者大會(huì)上發(fā)布了安第斯大模型（AndesGPT），并喊出“為每個(gè)人打造有用的大模型及智能體”的口號(hào)。其能力主要體現(xiàn)在知識(shí)、記憶、工具和創(chuàng)作四大核心領(lǐng)域。

知識(shí)：能夠融合知識(shí)圖譜及通用搜索提供更專業(yè)的問(wèn)答，也通過(guò)?動(dòng)識(shí)別知識(shí)依賴模塊、準(zhǔn)確判別引?外部知識(shí)實(shí)際、引?精準(zhǔn)召回機(jī)制來(lái)將外部知識(shí)與模型融合?成結(jié)果，降低“幻覺”的產(chǎn)生。

記憶：具備?時(shí)記憶機(jī)制，支持無(wú)限上下文擴(kuò)展，自研SwappedAttention 優(yōu)化首字推理時(shí)長(zhǎng)。

工具：理解設(shè)備控制與服務(wù)API，端到端生成指令。在訓(xùn)練階段引?代碼和??本進(jìn)?強(qiáng)化訓(xùn)練，并通過(guò)指令構(gòu)建和微調(diào)，提升模型遵循指令的效果。還?持“系統(tǒng)設(shè)置、??應(yīng)?、三?服務(wù)、代碼解釋器”等?具。

創(chuàng)作：AndesGPT 具備文生圖、圖生圖、中國(guó)風(fēng)、高清壁紙、全流程支持音樂(lè)生成等。

此外，OPPO的生態(tài)為AndesGPT在端側(cè)落地提供了十分大的優(yōu)勢(shì)。如今OPPO在智能手表、電腦、平板、智能汽車、智能電動(dòng)車等基于COLOS系統(tǒng)的終端中都可以同步上線AndesGPT功能。而AndesGPT通過(guò)端云協(xié)同的設(shè)計(jì)，也能夠提升針對(duì)任務(wù)執(zhí)?、降級(jí)應(yīng)答等場(chǎng)景，提升極端場(chǎng)景下的可?性；同時(shí)在云端，OPPO 同樣提供可信的大模型服務(wù)，會(huì)結(jié)合機(jī)密計(jì)算技術(shù)，構(gòu)建加密、可信通道，充分保障用戶隱私。值得一提的是，OPPO 還將開源智能體 (Agent) 框架，支持智能體的高效孵化、托管與應(yīng)用，開發(fā)者們很快就可以嘗鮮了。

14. 科大訊飛

在今年10月，科大訊飛發(fā)布了訊飛星火認(rèn)知大模型V3.0（以下簡(jiǎn)稱“星火3.0”）在文本生成、語(yǔ)言理解、知識(shí)問(wèn)答、邏輯推理、數(shù)學(xué)能力、代碼能力和多模態(tài)能力方面都有了顯著的提升。據(jù)科大訊飛方面表示，未來(lái)星火V3.0將集成與部署進(jìn)一系列賦能行業(yè)與場(chǎng)景的商業(yè)化產(chǎn)品中，包括教育、辦公、醫(yī)療等行業(yè)的AI原生應(yīng)用。例如iFlyCode2.0（智能編程助手），與中科院文獻(xiàn)情報(bào)中心聯(lián)合打造的星火科研助手、教育領(lǐng)域的AI心里伙伴、醫(yī)療領(lǐng)域的曉醫(yī)助手等等。而在C端的智能硬件產(chǎn)品方面，科大訊飛也將大模型的能力落地到其智能辦公本、AI學(xué)習(xí)機(jī)、翻譯機(jī)、錄音筆等產(chǎn)品中。

其中，訊飛智能辦公本、訊飛翻譯機(jī)等C端產(chǎn)品有了星火V3.0的能力加持，能夠?qū)崿F(xiàn)對(duì)口語(yǔ)化文本進(jìn)行書面化的語(yǔ)篇規(guī)整；開放式的對(duì)話問(wèn)答能力支持用戶以手寫或語(yǔ)音輸入的方式與大模型進(jìn)行問(wèn)答互動(dòng)；加上星火V3.0在語(yǔ)言理解、知識(shí)問(wèn)答及多模態(tài)能力方面的能力，讓訊飛AI硬件產(chǎn)品在本年雙十一銷售額同比增長(zhǎng)了126%，直接證明了C端用戶已經(jīng)開始為大模型產(chǎn)品買單了。

大模型的中國(guó)力量：從硬件戰(zhàn)場(chǎng)中崛起的未來(lái)智能

通過(guò)以上盤點(diǎn)感知到，隨著大模型技術(shù)的不斷成熟，中國(guó)企業(yè)正展現(xiàn)出在處理能力、能效優(yōu)化和邊緣計(jì)算領(lǐng)域的實(shí)力與飛躍。中國(guó)企業(yè)在大模型硬件領(lǐng)域的落地表現(xiàn)不僅彰顯了技術(shù)實(shí)力，更預(yù)示了一個(gè)深刻變革的時(shí)代。從華為的高效AI處理器到360的視覺大模型，再到百度的模型與平臺(tái)融合，展示了中國(guó)企業(yè)在提升硬件處理能力和優(yōu)化能源消耗方面的具體成就。這些進(jìn)展不僅提高了設(shè)備的智能化水平，也為低功耗、高效能的智能硬件設(shè)備開辟了新的可能性。

展望未來(lái)，大模型技術(shù)與硬件的結(jié)合將進(jìn)一步深化，特別是在AIoT、邊緣計(jì)算、智能機(jī)器人等領(lǐng)域，預(yù)計(jì)將迎來(lái)技術(shù)革新和應(yīng)用拓展的新浪潮。這不僅是智能化轉(zhuǎn)型的關(guān)鍵驅(qū)動(dòng)力，也將為眾多行業(yè)如智慧城市、精準(zhǔn)醫(yī)療、工業(yè)自動(dòng)化等帶來(lái)顛覆性的變革。

隨著這些企業(yè)在大模型硬件領(lǐng)域取得更多突破，中國(guó)企業(yè)在全球科技舞臺(tái)上的作用將越來(lái)越重要。這種深度參與和持續(xù)創(chuàng)新不僅將推動(dòng)國(guó)內(nèi)科技生態(tài)的發(fā)展，也將為全球科技創(chuàng)新貢獻(xiàn)中國(guó)智慧。

綜合來(lái)看，中國(guó)企業(yè)在大模型硬件領(lǐng)域的發(fā)展態(tài)勢(shì)既成熟又有深度，而在端側(cè)硬件落地方面，與國(guó)際上對(duì)比也有著數(shù)量級(jí)的優(yōu)勢(shì)，一切只是時(shí)間問(wèn)題。隨著技術(shù)的持續(xù)進(jìn)步和應(yīng)用場(chǎng)景的日益豐富，期待中國(guó)企業(yè)繼續(xù)在全球技術(shù)舞臺(tái)上發(fā)揮關(guān)鍵作用，為全球科技生態(tài)的多樣化和繁榮發(fā)展做出重要貢獻(xiàn)。

參考資料：
【1】《6000 字詳解華為盤古大模型：能否撐起世界 AI 另一極？》來(lái)源 | 極客公園；作者 | 極客公園：https://new.qq.com/rain/a/20230707A0ACV600#:~:text=7%20%E6%9C%88%207%20%E6%97%A5
【2】360智腦官網(wǎng)（私有化）：https://qycloud.#/360gpt.html
【3】360智腦官網(wǎng)：https://ai.360.com/
【4】《大模型時(shí)代，重估百度移動(dòng)生態(tài)》來(lái)源 | 礪石商業(yè)評(píng)論；作者 | 路言：https://baijiahao.baidu.com/s?id=1777021449558685417&wfr=spider&for=pc
【5】《英特爾正式宣布與百度聯(lián)合發(fā)起飛槳+文心大模型硬件生態(tài)共創(chuàng)計(jì)劃 》來(lái)源 | 搜狐；作者 | 鞭牛士：https://news.sohu.com/a/713635814_115060
【6】《聯(lián)想全面擁抱大模型時(shí)代：首提AI PC概念，加強(qiáng)與微軟、英偉達(dá)合作》來(lái)源 | 騰訊網(wǎng)；作者 | 騰訊新聞潛望：https://new.qq.com/rain/a/20231025A02HQ900/
【7】《新華三百業(yè)靈犀達(dá)國(guó)內(nèi)先進(jìn)水平！率先完成中國(guó)信通院大模型標(biāo)準(zhǔn)符合性驗(yàn)證》來(lái)源 | 百家號(hào)；作者 | 砍柴網(wǎng)：https://baijiahao.baidu.com/s?id=1777635368656458732&wfr=spider&for=pc
【8】《瞄準(zhǔn)新型電力系統(tǒng)，江行智能打造工業(yè)級(jí)邊緣計(jì)算智能終端 》來(lái)源 | 搜狐；作者 | 賽迪網(wǎng)官方：https://www.sohu.com/a/723598307_120603108
【9】《首個(gè)AIoT行業(yè)大模型官宣，第一批受益者是這群“搬箱人》來(lái)源 | 智東西；作者 | 三北：https://baijiahao.baidu.com/s?id=1765696392528200365&wfr=spider&for=pc
【10】《寒武紀(jì)通用型智能芯片產(chǎn)品完整支持商用大模型部署》來(lái)源 | 中國(guó)網(wǎng)科學(xué)中國(guó)；作者 | 投資界 http://science.china.com.cn/2023-08/31/content_42503363.htm
【11】《思必馳發(fā)布通用大模型DFM-2，滿足行業(yè)精度的需求》來(lái)源 | 百家號(hào)；作者 | 每日熱點(diǎn)匯報(bào)：https://baijiahao.baidu.com/s?id=1771738927118899943&wfr=spider&for=pc
【12】《從訊飛華為聯(lián)手，我們看到了國(guó)產(chǎn)大模型的“三級(jí)跳”》來(lái)源 | 財(cái)經(jīng)無(wú)忌；作者 | 山核桃：https://baijiahao.baidu.com/s?id=1780703103894788115&wfr=spider&for=pc
【13】《大模型商業(yè)化落地初顯，科大訊飛智能硬件雙十一銷量增長(zhǎng)126%，拿下7項(xiàng)銷冠》來(lái)源 | 中國(guó)經(jīng)營(yíng)網(wǎng)；作者 | 佚名：http://www.cb.com.cn/index/show/gd/cv/cv1362085291499