快科技6月11日消息,NVIDIA近日宣布其首款采用共封裝光學(xué)(CPO)技術(shù)的Quantum-X InfiniBand Photonics Q3450-LD交換機已正式交付至AI云服務(wù)商Lambda的GPU集群,標(biāo)志著硅光CPO技術(shù)從工程樣片邁向量產(chǎn)部署階段。
Q3450-LD是一款4U液冷交換機,整機配備144個800G InfiniBand端口,總交換帶寬高達115.2 Tbps,無阻塞轉(zhuǎn)發(fā)。
![]()
其采用四顆NVIDIA Quantum-X800 ASIC芯片構(gòu)成多平面交換架構(gòu),每顆芯片提供28.8 Tbit/s交換能力。
與傳統(tǒng)可插拔光模塊方案不同,CPO將光學(xué)引擎直接集成在ASIC封裝旁,信號路徑從厘米級縮短至微米級,鏈路損耗從約20dB驟降至4dB,DSP也被一同移除。
![]()
功耗方面,傳統(tǒng)交換機功耗約7.0kW,而Q3450-LD僅3.95kW,單臺節(jié)省3.05kW,能效較傳統(tǒng)設(shè)計提升約1.77倍。
在41,472塊GPU的集群規(guī)模下,CPO交換機可釋放4,392kW電力,足夠額外運行3,137塊GPU。
Lambda測算,在12.8萬GPU的數(shù)據(jù)中心中,傳統(tǒng)方案需要65.5萬個獨立光收發(fā)模塊,每個都是潛在故障點;CPO大幅減少了光學(xué)組件數(shù)量,顯著提升集群可靠性。
Lambda指出,在三層800G GPU架構(gòu)中,后端網(wǎng)絡(luò)已占其總網(wǎng)絡(luò)功耗的86%。通過降低交換層功耗,CPO為GPU釋放更多電力余量,將直接轉(zhuǎn)化為更高的token吞吐量。
目前Lambda、CoreWeave、Meta、微軟及甲骨文云基礎(chǔ)設(shè)施均為首批采用者。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.