NVIDIA發(fā)布全新交換機、網(wǎng)卡：帶寬高達(dá)80萬兆

3月19日消息，AI新時代不但對算力、模型要求越來越高，也需要越來越強大的網(wǎng)絡(luò)。為此，NVIDIA發(fā)布了專為大規(guī)模AI量身訂制的全新網(wǎng)絡(luò)交換機——X800系列。

據(jù)悉，NVIDIA Quantum-X800 InfiniBand網(wǎng)絡(luò)、Spectrum-X800以太網(wǎng)絡(luò)是全球首批高達(dá)800Gbps端到端吞吐量的網(wǎng)絡(luò)平臺，早期用戶包括微軟Azure、甲骨文云、Coreweave等等。

Quantum-X800平臺可以說是AI專用基礎(chǔ)設(shè)施極致性能的新標(biāo)桿，包含Quantum Q3400交換機、ConnectX-8 SuperNIC網(wǎng)卡，二者互連的端到端吞吐量達(dá)到了業(yè)界領(lǐng)先的800Gbps(80萬兆)。

同時，交換帶寬容量比上一代提高5倍，網(wǎng)絡(luò)計算能力則憑借NVIDIA SHARPv4技術(shù)提高9倍，達(dá)到了14.4TFlops，也就是每秒14.4萬億次計算。

Spectrum-X800則包含Spectrum SN5600交換機、BlueField-3 SuperNIC網(wǎng)卡，吞吐量同樣高達(dá)800Gbps，可為多租戶AIGC云和大型企業(yè)級用戶提供各種至關(guān)重要的先進(jìn)功能。

軟件方面，NVIDIA 提供面向萬億參數(shù)級AI模型性能優(yōu)化的網(wǎng)絡(luò)加速通信庫、軟件開發(fā)套件、管理軟件等全套軟件方案。

其中，NVIDIA集合通信庫（NCCL）可將GPU的并行計算任務(wù)擴展到Quantum-X800網(wǎng)絡(luò)，并利用基于SHARPv4的強大網(wǎng)絡(luò)計算能力、對FP8數(shù)據(jù)格式的支持，為大模型訓(xùn)練和AIGC提供超強的性能。

全球多家頭部基礎(chǔ)設(shè)施供應(yīng)商和系統(tǒng)廠商將從2025年開始，提供基于Quantum-X800、Spectrum-X800的網(wǎng)絡(luò)平臺，包括Aivres、DDN、戴爾、Eviden、Hitachi Vantara(日立旗下)、慧與、聯(lián)想、超微、VAST Data等等。