硬件
Vera Rubin
也称为 Vera Rubin 平台、Rubin GPU、Vera CPU、VR NVL72
先用大白话
Vera Rubin 是 NVIDIA 的平台,组合 Rubin GPU、Vera CPU 及配套的互连与网络组件。
技术定义
Vera Rubin 是 NVIDIA 的平台,文章将其描述为 Rubin GPU、Vera CPU、NVLink 6 Switch、ConnectX-9、BlueField-4 和 Spectrum-6 六款产品的协同设计。
工程细节
平台名称涵盖的并不只有加速器。Rubin NVL72 文章评估了采用早期预发布 TensorRT-LLM 软件的完整服务配置,并注明量产 SKU 的 TDP 为 2300 W、每个计算托盘配有 1.5 TB CPU LPDDR5X,不能将所有已公布配置视为相同。
为什么重要
智能体性能取决于计算、内存容量、通信和服务软件的相互作用。实测优势不能只归因于单一组件;机架级结果也不能证明所有模型或延迟目标下都有同样的提升。
如何在 InferenceX 中解读
将 Vera Rubin 与 GB300 或单节点系统比较时,应保留文章的模型、引擎、精度、工作负载及交互性目标。已发布结果对应一个软件快照,文中对后续提升的预期属于预测,而非测量。