NVIDIA發(fā)布全新交換機(jī)、網(wǎng)卡：帶寬高達(dá)80萬(wàn)兆

3月19日消息，AI新時(shí)代不但對(duì)算力、模型要求越來(lái)越高，也需要越來(lái)越強(qiáng)大的網(wǎng)絡(luò)。為此，NVIDIA發(fā)布了專為大規(guī)模AI量身訂制的全新網(wǎng)絡(luò)交換機(jī)——X800系列。

據(jù)悉，NVIDIA Quantum-X800 InfiniBand網(wǎng)絡(luò)、Spectrum-X800以太網(wǎng)絡(luò)是全球首批高達(dá)800Gbps端到端吞吐量的網(wǎng)絡(luò)平臺(tái)，早期用戶包括微軟Azure、甲骨文云、Coreweave等等。

Quantum-X800平臺(tái)可以說(shuō)是AI專用基礎(chǔ)設(shè)施極致性能的新標(biāo)桿，包含Quantum Q3400交換機(jī)、ConnectX-8 SuperNIC網(wǎng)卡，二者互連的端到端吞吐量達(dá)到了業(yè)界領(lǐng)先的800Gbps(80萬(wàn)兆)。

同時(shí)，交換帶寬容量比上一代提高5倍，網(wǎng)絡(luò)計(jì)算能力則憑借NVIDIA SHARPv4技術(shù)提高9倍，達(dá)到了14.4TFlops，也就是每秒14.4萬(wàn)億次計(jì)算。

Spectrum-X800則包含Spectrum SN5600交換機(jī)、BlueField-3 SuperNIC網(wǎng)卡，吞吐量同樣高達(dá)800Gbps，可為多租戶AIGC云和大型企業(yè)級(jí)用戶提供各種至關(guān)重要的先進(jìn)功能。

軟件方面，NVIDIA 提供面向萬(wàn)億參數(shù)級(jí)AI模型性能優(yōu)化的網(wǎng)絡(luò)加速通信庫(kù)、軟件開(kāi)發(fā)套件、管理軟件等全套軟件方案。

其中，NVIDIA集合通信庫(kù)（NCCL）可將GPU的并行計(jì)算任務(wù)擴(kuò)展到Quantum-X800網(wǎng)絡(luò)，并利用基于SHARPv4的強(qiáng)大網(wǎng)絡(luò)計(jì)算能力、對(duì)FP8數(shù)據(jù)格式的支持，為大模型訓(xùn)練和AIGC提供超強(qiáng)的性能。

全球多家頭部基礎(chǔ)設(shè)施供應(yīng)商和系統(tǒng)廠商將從2025年開(kāi)始，提供基于Quantum-X800、Spectrum-X800的網(wǎng)絡(luò)平臺(tái)，包括Aivres、DDN、戴爾、Eviden、Hitachi Vantara(日立旗下)、慧與、聯(lián)想、超微、VAST Data等等。