NVIDIA Spectrum-X 网络平台 - 面向超大规模生成式AI的无损以太网解决方案
Spectrum-X以太网是全球首个专为AI构建的网络架构。当前许多成功的大语言模型都是采用NVLink+InfiniBand的无损网络架构, NVIDIA的产品线同时存在InfiniBand和以太网两种网络架构。NVIDIA在产品上如何做出平衡,用户又如何在二者之间做出取舍?
以太网的纷争
随着摩尔定律的消失,IT产业正在发生根本性转变。传统的每五年CPU性能提升十倍的故事已经消失,用同样的成本和电力消耗保持算力的增长,变得越来越不现实。生成式AI的火爆又给了算力供应狠狠一击,数据中心规模的问题因而更加凸显出来。
于是,在CPU之外,GPU、DPU也被引入进来,一个&ldq