对比 GB200 NVL72(NVIDIA Blackwell)与 MI325X(AMD CDNA 3)在 gpt-oss 120B 上的 AI 推理基准测试结果,涵盖不同 LLM 工作负载下的延迟、吞吐量和成本。可通过下方图表控件切换序列长度、精度和指标,操作方式与主推理图表相同。
在 gpt-oss 120B 的 78 tok/s/user 运行点,GB200 NVL72 的吞吐量为 52037 tok/s/chip,每百万 token 成本为 $0.01;MI325X 的吞吐量为 3123 tok/s/chip,每百万 token 成本为 $0.10。GB200 NVL72 的成本效率高出 885%;GB200 NVL72 的单芯片吞吐量高出 1566%。
当 gpt-oss 120B 的目标交互性为 87 tok/s/user 时,GB200 NVL72 与 MI325X 的吞吐量分别为 49784 和 1675 tok/s/chip,每百万 token 成本分别为 $0.01 和 $0.18。GB200 NVL72 的成本效率高出 1657%;GB200 NVL72 的单芯片吞吐量高出 2872%。
以 97 tok/s/user 为目标运行 gpt-oss 120B 时,GB200 NVL72 的吞吐量为 47222 tok/s/chip,每百万 token 成本为 $0.01;MI325X 的吞吐量为 1070 tok/s/chip,每百万 token 成本为 $0.29。GB200 NVL72 的成本效率高出 2510%;GB200 NVL72 的单芯片吞吐量高出 4313%。 (以上数据基于此 URL 对应的默认 8k/1k · fp4 配置;在控件中切换序列长度、精度或模型后,下方表格和图表会同步更新。)
| 指标 | 交互性(tok/s/user) | 交互性(tok/s/user) | 交互性(tok/s/user) |
|---|---|---|---|
| 吞吐量(tok/s/chip) | GB200 NVL72:52036.7MI325X:3122.9 | GB200 NVL72:49784.4MI325X:1675.4 | GB200 NVL72:47221.9MI325X:1070.1 |
| 成本($/M tok) | GB200 NVL72:$0.010MI325X:$0.098 | GB200 NVL72:$0.010MI325X:$0.182 | GB200 NVL72:$0.011MI325X:$0.286 |
| tok/s/MW | GB200 NVL72:27827087MI325X:1847849 | GB200 NVL72:26622665MI325X:991335 | GB200 NVL72:25252347MI325X:633210 |
| 并发数 | GB200 NVL72:~323MI325X:~8 | GB200 NVL72:~268MI325X:~15 | GB200 NVL72:~261MI325X:~7 |
不同模型、硬件配置和服务参数下,来自 AgentX 场景的智能体推理指标与固定序列推理指标。
TCO $/chip/hr:
来源: SemiAnalysis Market July 2026 Pricing Surveys & AI Cloud TCO Model
注意:分离式推理配置(如 MoRI SGLang、Dynamo TRTLLM)按解码芯片或预填充 芯片计算每百万 token 成本,而非按芯片总数计算。因此,与聚合配置进行token 成本的直接对比并不完全等价。
注意:分离式推理配置(如 MoRI SGLang、Dynamo TRTLLM)按解码芯片或预填充 芯片计算输入吞吐量,而非按芯片总数计算。因此,与聚合配置进行输入吞吐量的直接对比并不完全等价。
注意:分离式推理配置(如 MoRI SGLang、Dynamo TRTLLM)按解码芯片或预填充 芯片计算输出吞吐量,而非按芯片总数计算。因此,与聚合配置进行输出吞吐量的直接对比并不完全等价。
注意:分离式推理配置(如 MoRI SGLang、Dynamo TRTLLM)按解码芯片或预填充 芯片计算功耗,而非按芯片总数计算。因此,与聚合配置进行功耗的直接对比并不完全等价。
注意:分离式推理配置(如 MoRI SGLang、Dynamo TRTLLM)按解码芯片或预填充 芯片计算能耗,而非按芯片总数计算。因此,与聚合配置进行每 token 能耗的直接对比并不完全等价。
有符合条件的测量数据,但对应的芯片曲线已隐藏。
按住 Shift 滚动以缩放 · 拖动以平移 · 双击以重置 · 点击数据点固定提示框