面向數(shù)字化的未來,IT基礎(chǔ)設(shè)施軟硬件供應(yīng)商、設(shè)備商正在繼續(xù)優(yōu)化分布式基礎(chǔ)設(shè)施的性能、效率和安全特性,以通過軟硬件的協(xié)同創(chuàng)新,進(jìn)一步為數(shù)據(jù)的處理和利用創(chuàng)造更大價值。
日前,NVIDIA與戴爾科技宣布推出一款專為AI時代設(shè)計的全新數(shù)據(jù)中心解決方案,可帶來先進(jìn)的AI訓(xùn)練、AI推理、數(shù)據(jù)處理、數(shù)據(jù)科學(xué)和零信任安全能力。該解決方案結(jié)合了戴爾PowerEdge服務(wù)器、NVIDIA BlueField DPU 、NVIDIA GPU和NVIDIA AI Enterprise 軟件,并針對最新發(fā)布的VMware vSphere 8企業(yè)工作負(fù)載平臺進(jìn)行了優(yōu)化。
AI與安全需求——數(shù)據(jù)中心基礎(chǔ)設(shè)施演進(jìn)的強(qiáng)大動力
數(shù)據(jù)中心基礎(chǔ)設(shè)施一直在不斷演進(jìn),且海量、多樣的邊緣工作負(fù)載正在加劇這一進(jìn)程。帶有AI/ML和分析功能的分布式現(xiàn)代化應(yīng)用,正在利用加速器,并提供更高的安全性作為主流應(yīng)用基礎(chǔ)設(shè)施的一部分,從而推動數(shù)據(jù)中心架構(gòu)的轉(zhuǎn)型。
NVIDIA企業(yè)計算負(fù)責(zé)人Manuvir Das表示:“隨著計算和網(wǎng)絡(luò)工作負(fù)載的激增,AI與零信任安全已成為一股推動全球企業(yè)重構(gòu)數(shù)據(jù)中心的強(qiáng)大力量。VMware vSphere 8將數(shù)據(jù)中心基礎(chǔ)設(shè)施服務(wù)卸載到NVIDIA BlueField DPU上,并對這些服務(wù)進(jìn)行加速、隔離、加強(qiáng)對它們的保護(hù),同時為全球企業(yè)釋放出用于處理智能工廠的計算資源?!?/p>
據(jù)了解,在BlueField DPU上運行vSphere 8可大幅提高工作負(fù)載性能。通過將工作負(fù)載卸載到DPU,用戶可以加速網(wǎng)絡(luò)和安全服務(wù),并節(jié)省CPU周期,同時保持性能,滿足現(xiàn)代分布式工作負(fù)載的吞吐量和延遲要求。這一組合提高了性能與效率、簡化了運營并增強(qiáng)了數(shù)據(jù)中心、邊緣、云和混合環(huán)境的基礎(chǔ)設(shè)施安全。
在GPU加速數(shù)據(jù)中心領(lǐng)域,NVIDIA與戴爾一直保持合作,并推動了大規(guī)模的突破。如今,在戴爾的PowerEdge服務(wù)器平臺中內(nèi)置了NVIDIA BlueField DPU和NVIDIA GPU,以及最新的VMware vSphere 8,可為關(guān)鍵的企業(yè)云應(yīng)用提供先進(jìn)的性能和效率,同時更加有效地防止企業(yè)在多云環(huán)境中受到橫向威脅。據(jù)了解,搭載NVIDIA BlueField-2 DPU+vSphere 8的戴爾服務(wù)器,將于今年晚些時候上市。
NVIDIA AI Enterprise即將支持VMware vSphere 8
企業(yè)在部署和管理AI應(yīng)用時,面對不同工作負(fù)載或是大規(guī)模AI模型部署時,開發(fā)周期長、對開發(fā)人員/IT運維人員的技術(shù)能力要求高,是普遍的難題。運營成本、易用性、對不同場景的適配能力、安全要求——成為當(dāng)前AI落地企業(yè)基礎(chǔ)設(shè)施應(yīng)用最主要的挑戰(zhàn)。
應(yīng)對上述難題,NVIDIA早先已經(jīng)與VMware在AI企業(yè)級平臺方面展開合作,聯(lián)合發(fā)布了AI就緒型企業(yè)級平臺。基于這一合作,NVIDIA的AI Enterprise軟件套件可以在VMware的 vSphere 7環(huán)境中運行并進(jìn)行AI應(yīng)用優(yōu)化。對于數(shù)十萬家使用vSphere進(jìn)行計算虛擬化的企業(yè)而言,這一合作為他們加速CUDA應(yīng)用、AI框架、模型和SDK實現(xiàn)了擴(kuò)展性、多節(jié)點性能和兼容性。
內(nèi)置VMware vSphere的NVIDIA AI Enterprise現(xiàn)已上市,企業(yè)可以在NVIDIA LaunchPad上體驗這些技術(shù)組合(NVIDIA LaunchPad是一項動手實驗室計劃,可以為AI、數(shù)據(jù)科學(xué)等領(lǐng)域的端到端工作流提供軟硬件權(quán)限)。
并且,NVIDIA AI Enterprise即將支持VMware vSphere 8,包括對更大規(guī)模的多GPU工作負(fù)載、資源優(yōu)化和GPU生命周期的輕松管理提供支持。
根據(jù)官方發(fā)布,在BlueField DPU上運行vSphere,能夠?qū)⒎?wù)器效率提升22%,以1000臺服務(wù)器的裝機(jī)量來看,3年的效率提升將能夠節(jié)省180萬美元。
寫在最后
NVIDIA AI Enterprise是一套全面的云原生AI和數(shù)據(jù)分析軟件套件,為使企業(yè)能夠在熟悉的基礎(chǔ)設(shè)施上使用AI做了專門的優(yōu)化。這套軟件可以部署在從企業(yè)數(shù)據(jù)中心到公有云的任何地方,保證AI項目的正常運行。
VMware vSphere是VMware的虛擬化平臺,可將數(shù)據(jù)中心轉(zhuǎn)換為包括CPU、GPU、存儲和網(wǎng)絡(luò)資源的聚合計算基礎(chǔ)架構(gòu),并對這一統(tǒng)一的運行環(huán)境進(jìn)行管理。
據(jù)NVIDIA官方信息,在BlueField DPU上運行vSphere 8可以說是企業(yè)級計算的一個“huge moment”。VMware相當(dāng)于為企業(yè)級計算提供操作系統(tǒng),通過vSphere 8+BlueField DPU的軟硬件協(xié)同合作,能夠簡化基礎(chǔ)設(shè)施和工作負(fù)載管理,進(jìn)一步提升效率和安全性,從而實現(xiàn)更好的用戶體驗,為更大規(guī)模應(yīng)用打下堅實基礎(chǔ)。