加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • 1.AI重塑企業(yè)在即,訓(xùn)練模型難題何解?
    • 2.企業(yè)數(shù)字分身普及殺手锏讓模型可用、好用、易用
    • 3.聯(lián)想“內(nèi)生外化”心法為企業(yè)擁抱大模型“鋪路搭橋”
    • 4.結(jié)語:聯(lián)想加碼AI+計(jì)算,驅(qū)動AI普慧
  • 推薦器件
  • 相關(guān)推薦
申請入駐 產(chǎn)業(yè)圖譜

為企業(yè)打造數(shù)字分身!解密聯(lián)想的一大關(guān)鍵挑戰(zhàn)、三大硬核技術(shù)

2023/11/19
2038
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

作者?|??程茜,編輯?|??漠影

展望生成式AI下一個里程碑,萬千企業(yè)的數(shù)字分身加速進(jìn)階。

智東西11月16日消息,今天,聯(lián)想集團(tuán)發(fā)布了2023/24財(cái)年第二財(cái)季業(yè)績,整體營收達(dá)到1044億人民幣,凈利潤近20億人民幣,連續(xù)兩個季度環(huán)比提升。

其中,IDG(智能設(shè)備業(yè)務(wù))個人電腦出貨量市占率近24%,SSG(方案服務(wù)業(yè)務(wù))營收、運(yùn)營利潤均創(chuàng)新高,聯(lián)想集團(tuán)正在打造混合式AI專業(yè)服務(wù);能為生成式AI全生命周期提供服務(wù)的ISG(基礎(chǔ)設(shè)施方案業(yè)務(wù))受多重風(fēng)險(xiǎn)制約,存儲業(yè)務(wù)市場份額仍提升至全球第三

眾所周知,生成式AI帶來的產(chǎn)業(yè)變革已經(jīng)席卷全球各行各業(yè),其引發(fā)的技術(shù)變革成為當(dāng)下產(chǎn)業(yè)的焦點(diǎn)。

10月24日,聯(lián)想創(chuàng)新科技大會上,聯(lián)想集團(tuán)提出了AI for All的戰(zhàn)略,在聯(lián)想集團(tuán)董事長兼CEO楊元慶看來,AI for All意味著讓AI惠及每一個人。

同時,聯(lián)想創(chuàng)新科技大會上,聯(lián)想集團(tuán)展示了AI設(shè)備產(chǎn)品組合,并闡釋了自己對于生成式AI時代的理解——個人與企業(yè)級人工智能雙胞胎(AI Twin)。

此次發(fā)布財(cái)報(bào)之際,聯(lián)想集團(tuán)還創(chuàng)新性地隨發(fā)了一個可視化科普視頻,在展望生成式AI下一個里程碑用AI重塑Enterprise Twin(企業(yè)級人工智能雙胞胎)的同時,將其對于AI行業(yè)的深入理解進(jìn)行了層層拆解。

在此節(jié)點(diǎn),智東西有幸與聯(lián)想研究院人工智能實(shí)驗(yàn)室商務(wù)及運(yùn)營總監(jiān)陳鋼、聯(lián)想研究院人工智能實(shí)驗(yàn)室主任研究員王奇剛圍繞降低大模型訓(xùn)練成本等話題進(jìn)行了對話,深入探討了聯(lián)想集團(tuán)正如何抓住AI發(fā)展與落地的重要突破口。

1.AI重塑企業(yè)在即,訓(xùn)練模型難題何解?

自去年11月底至今,生成式AI引發(fā)的技術(shù)革新愈演愈烈,產(chǎn)業(yè)熱情被全面點(diǎn)燃。在這場空前緊迫的競賽中,以企業(yè)為主體的典型代表已經(jīng)躍躍欲試,試圖在新興技術(shù)浪潮中搶占先手棋。

這場風(fēng)暴的起點(diǎn),最早可以追溯至人類“火種”的誕生,往后,每一次生產(chǎn)力工具的變革都推動了社會發(fā)展。數(shù)十萬年的薪火相傳,如今,在深度學(xué)習(xí)技術(shù)的驅(qū)動下,AI在人類生產(chǎn)力變革中扮演著重要的角色。

火堆、時鐘、汽車……短短20余秒的時間,視頻在逼真還原火焰物理效果的同時,沉浸式帶觀看者穿梭于不同時代背景,最終使得深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)被“點(diǎn)燃”。

產(chǎn)業(yè)變革至今,企業(yè)已經(jīng)成為生成式AI下一個里程碑的重要主體。這也就是聯(lián)想集團(tuán)今年在聯(lián)想創(chuàng)新科技大會上,提出的Enterprise Twin(企業(yè)級人工智能雙胞胎概念。

企業(yè)在AI世界的數(shù)字分身能做什么?首先,它具備AI的強(qiáng)大學(xué)習(xí)和表達(dá)能力,能基于企業(yè)的獨(dú)家、私有知識進(jìn)行訓(xùn)練;其次,它能為此前大量依賴人類經(jīng)驗(yàn)的任務(wù)提供有數(shù)據(jù)、邏輯清晰的輔助決策;最后,它還能通過文字、圖像等形式,將關(guān)乎企業(yè)業(yè)務(wù)規(guī)劃的內(nèi)容輸出。

視頻中構(gòu)建于城市大大小小的建筑物以及其中萬千企業(yè)之上可視化的數(shù)字形象正是其最恰當(dāng)?shù)捏w現(xiàn)。

然而,正如畫面中緩緩旋轉(zhuǎn)并隱隱散發(fā)出些許微光的黑箱,企業(yè)熱切擁抱AI之際需要深厚的技術(shù)功底和具有遠(yuǎn)見卓識的行業(yè)視角,真正沖破黑箱,感知到AI對企業(yè)自身帶來的顛覆式革命尤為關(guān)鍵。

這其中的第一個黑箱就是“訓(xùn)練模型”。飆漲的算力需求背后是真金白銀的AI芯片,鮮少有企業(yè)能獨(dú)立支撐如此大額的支出。

大模型訓(xùn)練最關(guān)鍵的三個要素就是算力、算法、數(shù)據(jù),其中數(shù)據(jù)也是“Enterprise Twin能真正聽到企業(yè)完整的自主思考與內(nèi)心獨(dú)白”的關(guān)鍵,也是構(gòu)建其大腦的重中之重。

可以看到,市面上的大模型參數(shù)規(guī)模動輒上百億、千億,這轉(zhuǎn)換到企業(yè)的數(shù)字分身上就是經(jīng)營、生產(chǎn)、銷售的每一處細(xì)節(jié)。

視頻中以手機(jī)和民航飛機(jī)發(fā)動機(jī)的葉片為例,對其零部件進(jìn)行可視化處理的同時,清晰展現(xiàn)出了其背后的龐大數(shù)據(jù)規(guī)模。當(dāng)將手機(jī)一層層“剝離”開時,每個生產(chǎn)環(huán)節(jié)中的信息都可能被轉(zhuǎn)化為數(shù)據(jù);發(fā)動機(jī)上的葉片也涉及數(shù)百萬零件的供應(yīng)鏈體系。

龐大數(shù)據(jù)量的處理、以月為單位的訓(xùn)練時間、極易出現(xiàn)的返工等風(fēng)險(xiǎn),都是橫亙在企業(yè)面前的一道道難題。

但可以確定的是,企業(yè)積極、主動擁抱大模型已成必然趨勢,聯(lián)想集團(tuán)則為這場前路莫測的創(chuàng)新革命,點(diǎn)亮了一盞引路燈。

2.企業(yè)數(shù)字分身普及殺手锏讓模型可用、好用、易用

這就是聯(lián)想集團(tuán)自研的AI開發(fā)及運(yùn)營平臺煉AI大師,覆蓋了企業(yè)構(gòu)建Enterprise Twin的各個流程。

煉AI大師擁有圖像識別語音識別、物體檢測等9類基礎(chǔ)模型,將模型訓(xùn)練的各個環(huán)節(jié)層層剝開,既包含其中所需的龐大數(shù)據(jù),還能靈活應(yīng)對企業(yè)業(yè)務(wù)不同環(huán)節(jié)所需的多模態(tài)、多語言數(shù)據(jù)。

針對于企業(yè)訓(xùn)練大模型的核心痛點(diǎn),結(jié)合煉AI大師的層層能力,聯(lián)想集團(tuán)將為企業(yè)訓(xùn)練出具有超強(qiáng)大腦的大模型總結(jié)為三大要點(diǎn),分別是保證訓(xùn)練出的模型準(zhǔn)確可用、訓(xùn)練成本可控、能擺脫通用大模型千億級規(guī)模龐大身軀

技術(shù)路徑、文案、視頻內(nèi)容相結(jié)合,將聯(lián)想集團(tuán)在幫助企業(yè)降低大模型訓(xùn)練成本中的核心思路進(jìn)行了呈現(xiàn)。

在保證訓(xùn)練出的模型準(zhǔn)確可用方面,一般而言,通用大模型為了保證知識的廣度會預(yù)載綜合學(xué)科、語料庫等基礎(chǔ)數(shù)據(jù),煉AI大師就會根據(jù)企業(yè)所處的具體行業(yè)、實(shí)際需求進(jìn)行篩選。

還有一大關(guān)鍵在于,如何讓企業(yè)盡早發(fā)現(xiàn)模型訓(xùn)練中間的問題?;诖?,聯(lián)想集團(tuán)自研了訓(xùn)測一體的流程,王奇剛解釋說,將大模型的訓(xùn)練和測試交叉進(jìn)行,通過測試中間環(huán)節(jié)中大模型的表現(xiàn)效果,來綜合判斷實(shí)際的效果,如果出現(xiàn)問題就及時停止復(fù)查。

此外,為了讓企業(yè)在大模型訓(xùn)練時具有數(shù)據(jù)配比的參考,聯(lián)想集團(tuán)將自身采樣抽取的常用操作集成到了框架中,可以幫助企業(yè)以某種規(guī)則從大數(shù)據(jù)集中生成自己的數(shù)據(jù)配方。

王奇剛談道,因?yàn)閿?shù)據(jù)質(zhì)量對大模型精度的影響很大, 因此,聯(lián)想集團(tuán)的研發(fā)人員正在研發(fā)將雜亂無章的數(shù)據(jù)以可視化的方式呈現(xiàn)出來,便于企業(yè)進(jìn)行篩選、剔除劣質(zhì)數(shù)據(jù),從而進(jìn)一步提高模型訓(xùn)練的效率。

其次,就是更為關(guān)鍵的降低訓(xùn)練成本,聯(lián)想集團(tuán)開發(fā)了專門對大模型進(jìn)行二次預(yù)訓(xùn)練、微調(diào)的LeLLM大模型框架,其中通過3D并行分布式訓(xùn)練方案中的流水線并行、模型并行、數(shù)據(jù)并行,讓模型跑起來、跑得更快。

這一方案的實(shí)現(xiàn)路徑,通過視頻中被具象化的數(shù)據(jù)、服務(wù)器、GPU進(jìn)行了層層剝離,通過動態(tài)的具體操作過程闡釋了其對于降低大模型訓(xùn)練成本的意義。

王奇剛談道,聯(lián)想集團(tuán)將他們在加快預(yù)訓(xùn)練、微調(diào)速度等工作方面的經(jīng)驗(yàn),集成到了LeLLM大模型框架中,并且這一框架也正在被集成到煉AI大師平臺中。

最后一步,就是幫助企業(yè)擺脫通用大模型千億級參數(shù)規(guī)模龐大身軀的技術(shù)——剪枝。剪枝可以剔除大模型中與企業(yè)無關(guān)的參數(shù),從700億精簡至70億甚至10億。

王奇剛介紹道,他們有兩種方案,一種是量化,將浮點(diǎn)數(shù)從32bit轉(zhuǎn)化為16bit、8bit或4bit,以達(dá)到成倍減少大模型體積的目的;又因?yàn)榇竽P蛢?nèi)部和人腦類似,存在視覺、聽覺等分離區(qū)域,因此他們嘗試針對某個場景剪掉與之無關(guān)的區(qū)域,觀察其對大模型精度的影響等,這也是其第二種方案。

歸根結(jié)底,聯(lián)想集團(tuán)要做的就是提高企業(yè)訓(xùn)練大模型的成功率,同時降低成本。在這之后,大模型訓(xùn)練、壓縮、推理、算力設(shè)施的一系列環(huán)節(jié)完成,也就意味著企業(yè)已經(jīng)擁有了擁抱AI的底氣。

3.聯(lián)想“內(nèi)生外化”心法為企業(yè)擁抱大模型“鋪路搭橋”

聯(lián)想展望生成式AI下一個里程碑,用AI重塑Enterprise Twin的背后,正是其多年技術(shù)與經(jīng)驗(yàn)積累的印證。

事實(shí)上,煉AI大師這一平臺的研發(fā)起步可以追溯至2016年,現(xiàn)在已經(jīng)迭代至6.0版本,這一平臺是聯(lián)想集團(tuán)內(nèi)部、企業(yè)客戶等在AI開發(fā)過程中經(jīng)驗(yàn)的“集大成者”。陳鋼談道,煉AI大師的路線十分清晰,就是AI訓(xùn)練推理的一站式平臺。前后版本的不同之處在于,此前煉AI大師面向的主要為中小模型,去年大模型爆火后,聯(lián)想集團(tuán)迅速將其在大模型領(lǐng)域的工程化方法進(jìn)行了集成。

除了技術(shù)外,還有聯(lián)想集團(tuán)一以貫之的“內(nèi)生外化”思路。聯(lián)想集團(tuán)基于上述訓(xùn)練方法,打造了公司內(nèi)部局部試用的大模型,王奇剛透露說,聯(lián)想集團(tuán)的一些業(yè)務(wù)部門可以直接登錄,與大模型進(jìn)行對話,或者通過調(diào)用API,來實(shí)現(xiàn)企業(yè)級客服助手、知識管理等應(yīng)用。如今,這一部分能力正在聯(lián)想集團(tuán)內(nèi)部和外部都爆發(fā)出強(qiáng)大的生命力。陳鋼談道,對于聯(lián)想而言,他們自己就是大模型的第一使用者。因此,聯(lián)想集團(tuán)內(nèi)部在積極推進(jìn)內(nèi)部產(chǎn)品迭代、升級的同時,積極將這一部分能力外化出去。王奇剛談道,這背后聯(lián)想集團(tuán)的核心思路主要集中于兩點(diǎn),首先不是任何公司都有能力從頭訓(xùn)練大模型,其次就是進(jìn)一步增強(qiáng)算力的有效利用率,讓企業(yè)少走彎路。這也正是聯(lián)想集團(tuán)在生成式AI產(chǎn)業(yè)變遷之際,積極加速AI普及的有力舉措。

4.結(jié)語:聯(lián)想加碼AI+計(jì)算,驅(qū)動AI普慧

正如視頻中所呈現(xiàn)的,生產(chǎn)力工具歷經(jīng)數(shù)十萬年薪火相傳,如今其火把已經(jīng)被傳給了AI。生成式AI在生成、理解等方面展現(xiàn)出的強(qiáng)大能力,不斷拓寬其在千行百業(yè)中的應(yīng)用邊界。當(dāng)下,AI驅(qū)動的各類應(yīng)用正在變革著人們的工作、生活、學(xué)習(xí)等。

聯(lián)想從2017年開始智能化轉(zhuǎn)型布局以來,技術(shù)積累頗深,且擁有從口袋到云端的全產(chǎn)品組合和能力。當(dāng)下,邁入AI戰(zhàn)略收獲期的聯(lián)想,將圍繞著計(jì)算和AI這兩個關(guān)鍵的“錨點(diǎn)”技術(shù),加速AI的普及。

 

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風(fēng)險(xiǎn)等級 參考價(jià)格 更多信息
MKL02Z32CAF4R 1 Freescale Semiconductor Kinetis L 32-bit MCU, ARM Cortex-M0+ core, 32KB Flash, 48MHz, WL-CSP 20

ECAD模型

下載ECAD模型
$2.7 查看
TMS320F28377DPTPT 1 Texas Instruments C2000™ 32-bit MCU with 800 MIPS, 2xCPU, 2xCLA, FPU, TMU, 1024 KB flash, EMIF, 16b ADC 176-HLQFP -40 to 105

ECAD模型

下載ECAD模型
$25.67 查看
STM32H743ZIT6 1 STMicroelectronics High-performance and DSP with DP-FPU, Arm Cortex-M7 MCU with 2MBytes of Flash memory, 1MB RAM, 480 MHz CPU, Art Accelerator, L1 cache, external memory interface, large set of peripherals

ECAD模型

下載ECAD模型
$22.21 查看
聯(lián)想控股

聯(lián)想控股

聯(lián)想作為全球領(lǐng)先ICT科技企業(yè),秉承“智能,為每一個可能”的理念,聯(lián)想持續(xù)研究、設(shè)計(jì)與制造全球最完備的端到端智能設(shè)備與智能基礎(chǔ)架構(gòu)產(chǎn)品組合,為用戶與全行業(yè)提供整合了應(yīng)用、服務(wù)和最佳體驗(yàn)的智能終端,以及強(qiáng)大的云基礎(chǔ)設(shè)施與行業(yè)智能解決方案。

聯(lián)想作為全球領(lǐng)先ICT科技企業(yè),秉承“智能,為每一個可能”的理念,聯(lián)想持續(xù)研究、設(shè)計(jì)與制造全球最完備的端到端智能設(shè)備與智能基礎(chǔ)架構(gòu)產(chǎn)品組合,為用戶與全行業(yè)提供整合了應(yīng)用、服務(wù)和最佳體驗(yàn)的智能終端,以及強(qiáng)大的云基礎(chǔ)設(shè)施與行業(yè)智能解決方案。收起

查看更多

相關(guān)推薦

登錄即可解鎖
  • 海量技術(shù)文章
  • 設(shè)計(jì)資源下載
  • 產(chǎn)業(yè)鏈客戶資源
  • 寫文章/發(fā)需求
立即登錄