AI 推理术语表
硬件

Vera Rubin

也称为 Vera Rubin 平台、Rubin GPU、Vera CPU、VR NVL72

先用大白话

Vera Rubin 是 NVIDIA 的平台,组合 Rubin GPU、Vera CPU 及配套的互连与网络组件。

技术定义

Vera Rubin 是 NVIDIA 的平台,文章将其描述为 Rubin GPU、Vera CPU、NVLink 6 Switch、ConnectX-9、BlueField-4 和 Spectrum-6 六款产品的协同设计。

工程细节

平台名称涵盖的并不只有加速器。Rubin NVL72 文章评估了采用早期预发布 TensorRT-LLM 软件的完整服务配置,并注明量产 SKU 的 TDP 为 2300 W、每个计算托盘配有 1.5 TB CPU LPDDR5X,不能将所有已公布配置视为相同。

为什么重要

智能体性能取决于计算、内存容量、通信和服务软件的相互作用。实测优势不能只归因于单一组件;机架级结果也不能证明所有模型或延迟目标下都有同样的提升。

如何在 InferenceX 中解读

将 Vera Rubin 与 GB300 或单节点系统比较时,应保留文章的模型、引擎、精度、工作负载及交互性目标。已发布结果对应一个软件快照,文中对后续提升的预期属于预测,而非测量。