2024年世界人工智能大會暨人工智能全球治理高級別會議(WAIC 2024)在上海世博展覽館盛大開幕。曦智科技首次在大會展區(qū)設(shè)立展位,并現(xiàn)場展示了公司光子網(wǎng)絡(luò)和光子計算兩大產(chǎn)品線的多款產(chǎn)品及解決方案。
WAIC 2024觀眾參觀曦智科技展臺
光子網(wǎng)絡(luò)產(chǎn)品線:新型數(shù)據(jù)搬運
由于人工智能、云計算、物聯(lián)網(wǎng)等技術(shù)的發(fā)展,當(dāng)今社會正面臨著數(shù)據(jù)量的指數(shù)級增長,算力網(wǎng)絡(luò)的發(fā)展需要高速率、高帶寬、高能效的互連技術(shù)作為支撐。光子技術(shù)憑借其低時延、低功耗的特性,在滿足數(shù)據(jù)中心日益增長的數(shù)據(jù)傳輸需求、提升運營效率等方面可發(fā)揮重要的作用。光電混合技術(shù)路線可為算力提升提供全新解決方案,曦智科技正是這一領(lǐng)域的先行者。
曦智科技于2023年發(fā)布了首款兼容PCIe和CXL協(xié)議的數(shù)據(jù)中心計算光互連硬件產(chǎn)品Photowave,為客戶提供芯片間(C2C)、卡間(B2B)、服務(wù)器間(S2S)、機架間(R2R)等多層級的互連解決方案,實現(xiàn)大規(guī)模數(shù)據(jù)中心的性能擴展。本次WAIC期間,曦智科技展示了Photowave的多個互連解決方案,包括內(nèi)存池和xPU池的擴展演示,以及基于OCS的多服務(wù)器多資源互連演示。
曦智科技Photowave計算光互連硬件產(chǎn)品
資源池化和擴展是智算中心的一個新技術(shù)方向。曦智科技Photowave系列計算光互連產(chǎn)品可以通過專用板卡和線纜連接服務(wù)器主機和內(nèi)存、算力、存儲等各類資源盒,實現(xiàn)資源的按需增減,可大幅提升資源的可伸縮性及利用率,降低資源的擁有成本和智算中心的運營成本。本次WAIC期間,曦智科技現(xiàn)場展示了資源擴展盒及其與服務(wù)器之間的光連接。
曦智科技光子網(wǎng)絡(luò)產(chǎn)品線多個解決方案亮相本次WAIC
曦智科技同時展示了內(nèi)存擴展及其與服務(wù)器之間的光連接。CXL(Compute Express Link)是一種開放性互連協(xié)議,高帶寬、低延遲的特性使其成為連接處理器、加速器、存儲等關(guān)鍵組件的理想選擇。曦智科技的Photowave系列計算光互連產(chǎn)品已率先成功實現(xiàn)CXL內(nèi)存池化的遠距離光互連,規(guī)?;瘧?yīng)用后可極大提升不同計算硬件的工作負載效率,賦能數(shù)據(jù)中心的架構(gòu)解耦和資源池化。
曦智科技工作人員向現(xiàn)場觀眾介紹基于CXL光互連的內(nèi)存擴展解決方案
曦智科技還展示了服務(wù)器與集中式OCS的光連接。OCS(Optical Circuit Switching)是一種基于光學(xué)交叉開關(guān)原理的光信號控制交換技術(shù),其核心功能是在光層面對信號進行快速、靈活的路由和切換,使服務(wù)器端口實現(xiàn)直接光學(xué)互連,過程中無需光電轉(zhuǎn)換,能耗大幅度降低。OCS的靈活部署能力在大模型XPU組網(wǎng)中可以發(fā)揮獨到的作用,曦智科技在集中式和分布式OCS方面都作了積極的技術(shù)探索和驗證。
現(xiàn)場觀眾駐足了解曦智科技光互連解決方案
值得一提的是,曦智科技展示了公司在CPO共封裝光學(xué) (Co-Packaged Optics)方面的提前布局和技術(shù)儲備。共封裝光學(xué)是一項新興封裝技術(shù),將光收發(fā)器/光引擎和電芯片封裝在一起,不再使用傳統(tǒng)可插拔光模塊而僅保留光口。相較于傳統(tǒng)PCB封裝技術(shù),CPO在成本、功耗和尺寸上都有明顯優(yōu)勢。目前,曦智科技首個共封裝光學(xué)項目正在落地中。
共封裝光學(xué)渲染圖
光子計算產(chǎn)品線:新型數(shù)據(jù)處理
曦智科技光子網(wǎng)絡(luò)產(chǎn)品線聚焦于算力的橫向擴展,而光子計算產(chǎn)品線旨在于單節(jié)點之內(nèi)實現(xiàn)算力的縱向提升。在目前主流的人工智能計算任務(wù)中,矩陣乘法占據(jù)著核心地位。作為一種線性運算,矩陣乘法可以使用光子技術(shù)來加速,可編程的光子矩陣計算在摩爾定律逐漸失效的當(dāng)下可望繼續(xù)支撐算力提升。
參加本次WAIC展覽的還有曦智科技光子計算產(chǎn)品線的光子計算處理器PACE、人工智能推理卡OptiHummingbird、光子計算評估板Gazelle等產(chǎn)品。同時,曦智科技現(xiàn)場演示了如何使用Gazelle評估板求解QUBO類問題,例如伊辛問題、max-cut問題、sat問題等,而這類問題可廣泛應(yīng)用于人工智能、量子計算、網(wǎng)絡(luò)安全等領(lǐng)域,為這些領(lǐng)域的科研和工業(yè)生產(chǎn)提供強有力的支持。
光子計算處理器PACE
人工智能推理卡OptiHummingbird
Gazelle光子計算評估板含矩陣可調(diào)的光學(xué)矩陣乘法器單元,具備目前光子計算領(lǐng)域已知最高的計算精度,其光芯片具有可編程性,可運行更多的定制矩陣乘法,通過板載FPGA與光子芯片融合實現(xiàn)多種計算負載,如QUBO類問題求解、Transformer模型運行,且支持RESNET10、RESNET50等AI應(yīng)用場景。同時,廣大開發(fā)者可通過該平臺共同建設(shè)更多的算法與應(yīng)用生態(tài)。
曦智科技Gazelle光子計算評估板
WAIC 2024將持續(xù)至7月7日,曦智科技的展位為上海世博展覽館H2館E522。