新一代 NVIDIA Spectrum-X 以太網為十億瓦級 AI 系統提供所需的性能、可靠性和效率,連接數十萬個 GPU。目前,多家領先的 AI 基礎設施企業已經采用了這一技術。

全球最先進的 AI 工廠將數十萬個 GPU 和 CPU 匯集在一起,賦能前沿模型訓練與代理式 AI 驅動,并以前所未有的規模生成智能。在這個層面,網絡成為推動 Token 生成的關鍵計算能力倍增器。
作為新的網絡里程碑產品,NVIDIA Spectrum-6 是一款 102.4T 的以太網交換機,其容量是上一代的 2 倍,為 NVIDIA Vera Rubin 平臺構建,即將在全球的十億瓦級 AI 工廠中落地。
Spectrum-6 驅動新一代 NVIDIA Spectrum-X 以太網平臺,為運營 AI 工廠端到端計算系統提供所需的高帶寬、規模擴展和智能。
領先的 AI 構建者率先行動
包括 CoreWeave、微軟、Nebius、SpaceXAI 和 Tesla 在內的全球領先的 AI 基礎架構構建商,率先采用 Spectrum-6,以加速其 AI 工廠建設。
對于云服務提供商而言,Spectrum-6 意味著更高的計算能力,可以作為統一的高性能資源運行,幫助客戶更快地訓練模型和部署推理服務。對于自建基礎設施的 AI 先驅來說,Spectrum-6 意味著更多的 GPU 能夠保持同步運行,為要求嚴苛、大量使用集合操作的作業實現更高的系統利用率,并提高長期運行工作的可靠性。
AI 性能本質上是一個網絡問題
以太網最初主要用于企業應用,承載用戶、服務器和存儲之間的南北向數據流量,并非為超大規模 AI 的同步、集合密集型通信模式而創建。Spectrum-X 以太網改變了這一局面。它專為 AI 打造,將以太網轉變為高性能橫向擴展網絡,旨在為每個 GPU 及時“喂上”足夠數據。
新一代 Spectrum-X 以太網
Spectrum-6 交換機芯片與 NVIDIA ConnectX-9 SuperNIC 相結合,構成了新一代 Spectrum-X 以太網,與 NVIDIA Vera CPU、Rubin GPU、NVLink 6 交換機、ConnectX-9 SuperNIC、BlueField-4 DPU 和 Spectrum-6 以太網交換機一起,共同組成了 NVIDIA Vera Rubin 平臺。
Spectrum-6 支持可插拔和光電一體化封裝兩種規格。此外,Spectrum-6 產品還支持液冷,支持整個 AI 工廠全面的端到端液冷方案,顯著提高系統能效。
與通用以太網不同,用于 AI 工廠橫向擴展的 NVIDIA Spectrum-X 以太網網絡平臺結合了智能交換機、NVIDIA ConnectX-9 SuperNIC 和全棧網絡軟件,共同為 AI 定向設計。該平臺的高級功能不斷優化數據流量在網絡中的移動。
以上為摘要內容,點擊“閱讀原文”或掃描下方二維碼閱讀完整內容:
