抱團挑戰(zhàn)英偉達(dá)：這次瞄準(zhǔn)了NVLink

美國東部時間10月29日，AMD、亞馬遜、Astera Labs、思科、谷歌、慧與科技（前身為惠普企業(yè)級產(chǎn)品部門）、英特爾、Meta和微軟九大董事會成員聯(lián)合宣布，成立UALink聯(lián)盟（Ultra Accelerator Link Consortium），用以解決來自不同廠商芯片的互聯(lián)問題，并提高卡間互聯(lián)能力。

今年5月，由AMD等八家海外巨頭成立的UALink推廣小組（Promoter Group），已旗幟鮮明地提出了實現(xiàn)加速器芯片之間高效通信的目標(biāo)。而今，UALink聯(lián)盟的成立，是否意味著海外芯片大廠合力對抗英偉達(dá)的行動，更進(jìn)了一步？

為什么是NVLink？

如果不是大模型訓(xùn)練拉高了訓(xùn)練集群規(guī)模需求，卡間互聯(lián)技術(shù)NVLink很難進(jìn)入到大眾視野。

而NVLink之所以越來越受到算力芯片乃至服務(wù)器行業(yè)關(guān)注，甚至成為英偉達(dá)除CUDA外的第二條“護(hù)城河”，原因可以總結(jié)成一句話：

行業(yè)通用卡間互聯(lián)協(xié)議跟不上大規(guī)模計算高速互聯(lián)需求了。

在大規(guī)模計算集群建設(shè)過程中存在兩大通信環(huán)節(jié)，一個是服務(wù)器內(nèi)的卡間互聯(lián)，PCIe為這一環(huán)節(jié)的行業(yè)標(biāo)準(zhǔn)通信協(xié)議；另一個是服務(wù)器間的互聯(lián)，行業(yè)內(nèi)存在RoCE等標(biāo)準(zhǔn)協(xié)議。

NVLink服務(wù)于服務(wù)器內(nèi)卡間互聯(lián)環(huán)節(jié)，推出的目的就是提升卡間互聯(lián)效率。而現(xiàn)在，NVLink可支持帶寬已大大超過PCIe標(biāo)準(zhǔn)協(xié)議。

英偉達(dá)于2014年推出第一代NVLink，當(dāng)前已更新到第五代。

據(jù)業(yè)內(nèi)人士統(tǒng)計，當(dāng)前市面上流行的NVLink5.0版本可支持總帶寬1.8TB/s，而PCIe最新的5.0版本可支持的總帶寬約為128GB/s。即NVLink支持的帶寬約為PCIe的14倍。

憑什么對抗NVlink？

UALink聯(lián)盟成立的意圖非常明顯：對抗英偉達(dá)NVLink。

在卡間互聯(lián)環(huán)節(jié)，在標(biāo)準(zhǔn)協(xié)議之外，不同芯片供應(yīng)商會推出自己的協(xié)議標(biāo)準(zhǔn)。例如服務(wù)器GPU領(lǐng)域除英偉達(dá)之外的另一位龍頭企業(yè)AMD推出了適用于芯片互聯(lián)的Infinity Fabric。

當(dāng)前，英偉達(dá)在數(shù)據(jù)中心端高性能GPU市場中已占有相當(dāng)大的比重，NVLink也已具備較高的市場認(rèn)知度。

基于此，有業(yè)界人士推測，UALink聯(lián)盟極有可能是AMD為提升自己的行業(yè)影響力而與自己的客戶共同成立，并將Infinity Fabric成果與聯(lián)盟成員共享，以提升其行業(yè)影響力，從而抑制英偉達(dá)市場份額的急速膨脹。

同時，如果UALink聯(lián)盟能夠?qū)崿F(xiàn)對卡間互聯(lián)速度的提升，也可為微軟、Meta等大計算集群客戶提供一條新思路。

面對英偉達(dá)這樣的強大對手，該聯(lián)盟的競爭力何在？

首先是開放性。相較于服務(wù)于自家產(chǎn)品的英偉達(dá)，UALink是一項相對開放的行業(yè)標(biāo)準(zhǔn)，旨在連接數(shù)據(jù)中心內(nèi)的AI加速器芯片，以滿足日益增長的計算密集型工作負(fù)載的需求。

其次是成員多。更多成員的加入，意味著UALink將有機會為更多的客戶提供更能兼容不同計算芯片的解決方案，從而逐步擴大其市場影響力。

今年5月，AMD、英特爾、谷歌、微軟、博通、思科、Meta、惠普企業(yè)等八家科技巨頭聯(lián)合組建UALink推廣組（UALink Promoter Group）。該組織稱，其目標(biāo)是提供一個可擴展的、高性能的連接解決方案，支持AI和HPC應(yīng)用，并允許多達(dá)1024個GPU AI加速器的連接，組成一個計算集群。

中國企業(yè)何去何從

海外大廠為對抗英偉達(dá)抱團，國內(nèi)企業(yè)該如何選擇？

“中國企業(yè)需要協(xié)力做一套自己的標(biāo)準(zhǔn)?！眹鴥?nèi)某服務(wù)器供應(yīng)商市場方面負(fù)責(zé)人在接受《中國電子報》記者采訪時這樣說。

在當(dāng)前算力集群強調(diào)算力和傳輸速度的背景下，行業(yè)標(biāo)準(zhǔn)協(xié)議PCIe的缺點很明顯——速率太低。PCIe協(xié)議需要兼容硬盤、網(wǎng)卡等很多低速設(shè)備，并非專為AI加速器芯片互聯(lián)而設(shè)計，數(shù)據(jù)傳輸效率低，相比NVLink不具備市場競爭力。因此，國內(nèi)企業(yè)推出具備自主知識產(chǎn)權(quán)的傳輸協(xié)議對于提升其自身市場競爭力非常重要。國產(chǎn)算力芯片企業(yè)自研卡間互聯(lián)協(xié)議就在這樣的背景下應(yīng)運而生。

但開放的GPU卡間互聯(lián)協(xié)議要不要有、是否要像UALink一樣實現(xiàn)一致性，中國移動研究院網(wǎng)絡(luò)與IT技術(shù)研究所主任研究員陳佳媛認(rèn)為關(guān)鍵在于卡間交換芯片。

相比于英偉達(dá)的技術(shù)路線，國內(nèi)算力芯片卡間互聯(lián)環(huán)節(jié)有個非常重要的區(qū)別在于——沒有卡間互聯(lián)芯片。這意味著國產(chǎn)算力芯片只能實現(xiàn)四卡直連或是八卡直連，但沒法像英偉達(dá)那樣實現(xiàn)一臺服務(wù)器內(nèi)集成高達(dá)72個GPU卡的規(guī)模。

因此，陳佳媛認(rèn)為，當(dāng)前我國應(yīng)加快推動研發(fā)卡間開放互聯(lián)協(xié)議和互聯(lián)芯片，這樣國內(nèi)GPU芯片才有可能向更大互聯(lián)規(guī)模升級，達(dá)到更高的互聯(lián)帶寬，并最終提升整個智算集群的計算效率。不同于UALink由AMD主導(dǎo)協(xié)議制定，選擇更加中立的企業(yè)去推動協(xié)議標(biāo)準(zhǔn)的制定將更符合我國國情，以確保協(xié)議可以盡可能惠及更多的GPU企業(yè)，更好的支持國內(nèi)智算產(chǎn)業(yè)的發(fā)展。

作者丨姬曉婷編輯丨張心怡美編丨馬利亞監(jiān)制丨連曉東