加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專(zhuān)業(yè)用戶(hù)
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

Supermicro推出適用于AI存儲(chǔ)的機(jī)柜級(jí)全方位解決方案 加速高性能AI訓(xùn)練和推理的數(shù)據(jù)存取

02/02 07:02
2136
閱讀需 6 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

適用于大規(guī)模AI訓(xùn)練和推理的一站式數(shù)據(jù)存儲(chǔ)解決方案──數(shù)百PB的多層式解決方案提供能支持可擴(kuò)充式AI工作負(fù)載所需的龐大數(shù)據(jù)容量和高性能數(shù)據(jù)帶寬

Supermicro, Inc.(納斯達(dá)克股票代碼:SMCI)作為AI、云端、存儲(chǔ)和5G/邊緣領(lǐng)域的全方位IT解決方案制造商,推出適用于人工智能(AI)和機(jī)器學(xué)習(xí)(ML)數(shù)據(jù)存取的完整優(yōu)化解決方案,覆蓋從數(shù)據(jù)收集到高性能數(shù)據(jù)傳輸的各個(gè)環(huán)節(jié)。此全新解決方案能通過(guò)將GPU數(shù)據(jù)傳輸管道完全利用使AI價(jià)值實(shí)現(xiàn)時(shí)間最小化。在AI訓(xùn)練方面,該解決方案可收集、轉(zhuǎn)換大量PB級(jí)原始資料,并加載到企業(yè)AI工作流程管道。這種多層式Supermicro解決方案通過(guò)證實(shí)可在生產(chǎn)制造環(huán)境中為人工智能運(yùn)營(yíng)(AIOps)和機(jī)器學(xué)習(xí)運(yùn)營(yíng)(MLOps)提供PB規(guī)模級(jí)數(shù)據(jù)量。Supermicro的多機(jī)柜級(jí)解決方案旨在降低落地風(fēng)險(xiǎn),讓組織能更快速地訓(xùn)練模型,并迅速將處理后的數(shù)據(jù)應(yīng)用到AI推理。

Supermicro總裁兼首席執(zhí)行官梁見(jiàn)后(Charles Liang)表示:“通過(guò)由每機(jī)柜20 PB高性能快閃存儲(chǔ)容量所驅(qū)動(dòng)并搭載四個(gè)專(zhuān)為應(yīng)用優(yōu)化的NVIDIA HGX H100 8-GPU的氣冷服務(wù)器或搭載八個(gè)NVIDIA HGX H100 8-GPU的液冷服務(wù)器,客戶(hù)能以機(jī)柜規(guī)模加速AI和ML應(yīng)用運(yùn)行。此項(xiàng)解決方案能為每個(gè)存儲(chǔ)叢集提供270 GB/s的讀取吞吐量和390萬(wàn)IOPS做為最低部署,并輕松擴(kuò)大至數(shù)百PB的規(guī)模。借由使用具有PCIe 5.0與E3.S存儲(chǔ)裝置,以及WEKA Data Platform軟件的最新Supermicro系統(tǒng),這項(xiàng)通過(guò)場(chǎng)域測(cè)試的機(jī)柜級(jí)解決方案將可為使用者帶來(lái)AI 應(yīng)用性能的大幅提升。有了此項(xiàng)適用于 AI 訓(xùn)練的全新存儲(chǔ)解決方案,客戶(hù)將能完全發(fā)揮我們最先進(jìn)GPU服務(wù)器機(jī)柜級(jí)解決方案的使用潛能,進(jìn)而降低總擁有成本(TCO)并時(shí)提高AI性能?!?/p>

為了使GPU有成效地運(yùn)行,具備低延遲、高帶寬數(shù)據(jù)處理性能的GPU服務(wù)器必須要能存取用于大規(guī)模 AI 訓(xùn)練運(yùn)行的未結(jié)構(gòu)化PB量級(jí)數(shù)據(jù)。Supermicro擁有基于Intel和AMD技術(shù)的廣泛存儲(chǔ)服務(wù)器產(chǎn)品組合,是AI管道必不可少的要素。這些產(chǎn)品包括Supermicro Petascale All-Flash存儲(chǔ)服務(wù)器,其中每部服務(wù)器擁有983.04* TB的NVMe Gen 5快閃數(shù)據(jù)容量,可提供高達(dá)230 GB/s的讀取帶寬和3,000萬(wàn)IOPS。本解決方案還包括適用于容量物件層級(jí)并具備90個(gè)存儲(chǔ)硬盤(pán)槽的Supermicro SuperServer存儲(chǔ)服務(wù)器。全球客戶(hù)已可取得此經(jīng)過(guò)測(cè)試的完善解決方案并用于ML、GenAI和其他復(fù)雜計(jì)算的工作負(fù)載。

全新存儲(chǔ)解決方案包含:

  • All-Flash層級(jí) - Supermicro Petascale Storage Servers
  • 應(yīng)用層級(jí) - Supermicro 8U GPU服務(wù)器:AS -8125GS-TNHR 和 SYS-821GE-TNHR
  • 物件層級(jí) - Supermicro 90 drive bay 4U SuperStorage Server,運(yùn)行Quantum ActiveScale物件存儲(chǔ)
  • 軟件:WEKA Data Platform和Quantum ActiveScale物件存儲(chǔ)
  • 交換機(jī):Supermicro InfiniBand 和以太網(wǎng)絡(luò)交換機(jī)

WEKA總裁Jonathan Martin表示:“具高性能和高度快閃數(shù)據(jù)容量的Supermicro PB級(jí)All-Flash存儲(chǔ)服務(wù)器能與WEKA的AI原生數(shù)據(jù)平臺(tái)軟件完美互補(bǔ)搭配,并為現(xiàn)今的企業(yè)AI客戶(hù)提供空前的速度、規(guī)模和簡(jiǎn)易性?!?/p>

Supermicro將在一場(chǎng)網(wǎng)絡(luò)研討會(huì)中介紹其優(yōu)化存儲(chǔ)架構(gòu)的更多細(xì)節(jié)。若要參加該場(chǎng)于2024年2月1日舉辦的直播網(wǎng)絡(luò)研討會(huì),或觀(guān)看Supermicro和WEKA的網(wǎng)絡(luò)研討會(huì)回放。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠(chǎng)商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
MBR0540T1G 1 onsemi 500 mA, 40 V, Schottky Power Rectifier, Surface Mount, SOD-123 2 LEAD, 3000-REEL

ECAD模型

下載ECAD模型
$0.43 查看
47589-0001 1 Molex Telecom and Datacom Connector, 5 Contact(s), Female, Right Angle, Surface Mount Terminal, Locking, Receptacle,

ECAD模型

下載ECAD模型
$0.89 查看
MCR72-8TG 1 Littelfuse Inc Silicon Controlled Rectifier, 8A I(T)RMS, 600V V(DRM), 600V V(RRM), 1 Element, TO-220AB, CASE 221A-09, 3 PIN
$1.06 查看

相關(guān)推薦

電子產(chǎn)業(yè)圖譜