加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

百度飛槳在Graphcore IPU上實(shí)現(xiàn)訓(xùn)練與推理全面支持

2021/12/13
971
閱讀需 6 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

在2021 Wave Summit+上百度深度學(xué)習(xí)平臺(tái)飛槳正式發(fā)布在Graphcore IPU上實(shí)現(xiàn)訓(xùn)練和推理全流程支持的開源代碼庫,飛槳模型庫如Bert、ERNIE等也正逐步在IPU上實(shí)現(xiàn)支持。自此,百度飛槳的開發(fā)者可以在IPU這一專為機(jī)器智能從零設(shè)計(jì)的創(chuàng)新架構(gòu)上進(jìn)行AI模型加速,而IPU的全球用戶也可以使用百度飛槳框架探索深度學(xué)習(xí)。對Graphcore而言,此舉將極大地?cái)U(kuò)展IPU的中文社區(qū),中文生態(tài)系統(tǒng)進(jìn)一步繁榮。

百度飛槳是中國領(lǐng)先的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái),目前累計(jì)開發(fā)者數(shù)量超過406萬,服務(wù)企業(yè)數(shù)量15.7萬家,創(chuàng)建了超過47.6萬個(gè)模型,為中國AI社區(qū)的繁榮做出巨大貢獻(xiàn)。Graphcore是飛槳硬件生態(tài)圈的初始成員之一,作為飛槳的重要硬件合作伙伴,Graphcore將通過云端和數(shù)據(jù)中心的IPU技術(shù)助力飛槳開發(fā)者實(shí)現(xiàn)AI模型的大幅加速,同時(shí)為使用飛槳的企業(yè)提供基于IPU的產(chǎn)品方案,幫助飛槳的企業(yè)級(jí)客戶提升數(shù)據(jù)中心效率。通過大幅提升模型的性能和運(yùn)行速度,縮短研發(fā)周期,加快AI模型落地應(yīng)用,同時(shí)降低計(jì)算成本。

目前Graphcore IPU支持通過飛槳完成大規(guī)模的模型訓(xùn)練任務(wù),也支持通過飛槳推理庫執(zhí)行高性能的推理任務(wù)。雙方團(tuán)隊(duì)通過在16個(gè)IPU組成的IPU-POD16上做數(shù)據(jù)并行與模型并行,并在Bert-Base模型上進(jìn)行了精讀和吞吐量驗(yàn)證,取得了良好的性能效果。結(jié)果證明,運(yùn)行在IPU硬件上的百度飛槳解決方案,在目前主流的AI訓(xùn)練任務(wù)和前沿AI創(chuàng)新模型任務(wù)上,可以取得很好的加速效果。IPU良好的系統(tǒng)擴(kuò)展性使得用戶可以根據(jù)任務(wù)需求靈活進(jìn)行性能擴(kuò)展。

百度飛槳產(chǎn)品團(tuán)隊(duì)負(fù)責(zé)人趙喬表示:“Graphcore是百度飛槳一直以來的好朋友和重要伙伴,非常高興宣布百度飛槳在Graphcore IPU上完成訓(xùn)練和推理的支持,這是我們飛槳硬件生態(tài)一次重要的升級(jí)。百度飛槳模型庫中的模型如Bert在IPU上實(shí)現(xiàn)了很好的訓(xùn)練和推理性能。同時(shí),Graphcore的深度學(xué)習(xí)引擎PopART具有的良好可用性,也支持飛槳在IPU上的適配變得簡易。我們將和Graphcore深化合作,將飛槳模型庫更多的模型遷移到IPU上,共同打造基于飛槳和IPU的世界級(jí)AI解決方案,賦能AI開發(fā)者和企業(yè)?!?/p>

隨著Graphcore在中國不斷深耕,其中文IPU社區(qū)和生態(tài)系統(tǒng)在不斷擴(kuò)大。此次引入百度飛槳深度學(xué)習(xí)平臺(tái),除了是其軟件Poplar SDK的重要擴(kuò)充,也為Graphcore客戶,尤其是中國客戶的工具箱中多放入一件重要工具。通過對百度飛槳的支持,Graphcore支持其客戶能夠在更多框架上進(jìn)行探索,IPU硬件架構(gòu)的潛能優(yōu)勢將得以進(jìn)一步釋放。

Graphcore中國工程總負(fù)責(zé)人、AI算法科學(xué)家金琛表示:“IPU對百度飛槳的支持,是Graphcore Poplar SDK的重要升級(jí),也是IPU生態(tài)系統(tǒng)的一次重大更新。百度飛槳是中文AI社區(qū)的翹楚,通過與百度飛槳合作,我們希望能夠擴(kuò)大IPU中文社區(qū),讓更多中國的開發(fā)者能夠打破傳統(tǒng)硬件的桎梏,在IPU上進(jìn)行創(chuàng)新突破,幫助他們解決棘手的深度學(xué)習(xí)難題。”

Graphcore中國工程總負(fù)責(zé)人、AI算法科學(xué)家金琛在2021 Wave Summit+上介紹IPU上的百度飛槳

百度飛槳和Graphcore IPU精神的相通之處,就是開源精神,將權(quán)力交給AI開發(fā)人員,使他們能夠自由地進(jìn)行創(chuàng)新。Graphcore制造硬件和開發(fā)軟件都遵循這一宗旨。百度飛槳在IPU上相關(guān)的代碼和模型代碼資源已經(jīng)在Graphcore GitHub和百度飛槳GitHub開源,在雙方的GitHub以及Graphcore的官網(wǎng)開發(fā)者頁面也附上了詳細(xì)的教程。同時(shí),使用了飛槳的Bert-Base也已經(jīng)在Graphcore的Model Garden里開源,廣大開發(fā)者可以前往雙方的資源池進(jìn)行探索、調(diào)取和使用。

百度

百度

百度是擁有強(qiáng)大互聯(lián)網(wǎng)基礎(chǔ)的領(lǐng)先AI公司。是全球?yàn)閿?shù)不多的提供AI芯片、軟件架構(gòu)和應(yīng)用程序等全棧AI技術(shù)的公司之一,被國際機(jī)構(gòu)評為全球四大AI公司之一。百度以“用科技讓復(fù)雜的世界更簡單”為使命,堅(jiān)持技術(shù)創(chuàng)新,致力于“成為最懂用戶,并能幫助人們成長的全球頂級(jí)高科技公司”。

百度是擁有強(qiáng)大互聯(lián)網(wǎng)基礎(chǔ)的領(lǐng)先AI公司。是全球?yàn)閿?shù)不多的提供AI芯片、軟件架構(gòu)和應(yīng)用程序等全棧AI技術(shù)的公司之一,被國際機(jī)構(gòu)評為全球四大AI公司之一。百度以“用科技讓復(fù)雜的世界更簡單”為使命,堅(jiān)持技術(shù)創(chuàng)新,致力于“成為最懂用戶,并能幫助人們成長的全球頂級(jí)高科技公司”。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜