在6月21日召開的華為開發(fā)者大會2024上,華為云CTO張宇昕表示:“華為云對AI 開發(fā)生產(chǎn)線ModelArts進行升級,在AI開發(fā)基礎(chǔ)設(shè)施和流水線之上,構(gòu)建了大模型即服務(wù)平臺 ModelArts Studio。提供百模千態(tài)的第三方大模型托管服務(wù),支持對大模型定制開發(fā),并提供相應(yīng)的工具和行業(yè)集成套件,讓客戶可以方便的將大模型與業(yè)務(wù)系統(tǒng)結(jié)合?!?/p>
華為云CTO張宇昕
ModelArts Studio大模型即服務(wù)平臺具備三大特點:
一、支持零代碼、免配置模型開發(fā):華為云沉淀盤古大模型的開發(fā)經(jīng)驗,以及100多個第三方大模型基于昇騰平臺適配和調(diào)優(yōu)的經(jīng)驗,為企業(yè)模型調(diào)優(yōu)自動推薦最優(yōu)配置參數(shù)。
二、支持多模型智能路由:ModelArts Studio能夠根據(jù)任務(wù)類型、模型效果自動選擇合適的模型,例如將復(fù)雜推理類任務(wù)路由給盤古處理,而將簡單的文案生成類請求路由給開源模型來處理。從而提升企業(yè)的模型管理和維護效率,降低模型調(diào)用成本25%以上。
三、提供多個智能Agent:ModelArts Studio沉淀了50多個智能Agent,可以準(zhǔn)確理解業(yè)務(wù)意圖,分解復(fù)雜任務(wù),幫助企業(yè)快速智能構(gòu)建和部署大模型應(yīng)用。