MiniMax M2.5/M2.7 · GPU 对比
MiniMax M2.5/M2.7 — B200 vs MI300X
B200（NVIDIA Blackwell）与 MI300X（AMD CDNA 3）在 MiniMax M2.5/M2.7 上的正面 AI 推理基准测试对比。涵盖各类 LLM 工作负载的延迟、吞吐量与成本。使用下方图表控件切换序列、精度和指标——交互方式与主推理图表相同。
MiniMax M2.5/M2.7 在 31 tok/s/user 交互性下的吞吐量：B200 为 12194 tok/s/GPU，MI300X 为 1563。每百万 token 成本分别为 $0.04 和 $0.20。B200 每 token 成本低 347%；B200 每 GPU 吞吐量高出 680%。
B200 / MI300X 在 MiniMax M2.5/M2.7 上以 49 tok/s/user 运行：8355 / 1396 tok/s/GPU，$0.06 / $0.22 每百万 token。B200 每 token 成本低 244%；B200 每 GPU 吞吐量高出 498%。
在 14–84 tok/s/user 交互性区间的高端，即 MiniMax M2.5/M2.7 上以 67 tok/s/user 运行时：B200 达到 4668 tok/s/GPU（$0.12/百万 token），MI300X 达到 1067（$0.29/百万）。B200 每 token 成本低 153%；B200 每 GPU 吞吐量高出 338%。 （数据反映此 URL 的默认 8k/1k · fp8 选择——如果您在控件中更改序列、精度或模型，下方表格和图表会自动更新。）
Interpolated from real benchmark data. Edit target interactivity values below to compare at different operating points.
| Metric | Interactivity (tok/s/user) | Interactivity (tok/s/user) | Interactivity (tok/s/user) |
|---|---|---|---|
| Throughput (tok/s/gpu) | B200:12194.1MI300X:1563.4 | B200:8354.6MI300X:1396.3 | B200:4668.0MI300X:1066.7 |
| Cost ($/M tok) | B200:$0.044MI300X:$0.199 | B200:$0.065MI300X:$0.223 | B200:$0.116MI300X:$0.293 |
| tok/s/MW | B200:5619378MI300X:873388 | B200:3850044MI300X:780040 | B200:2151134MI300X:595942 |
| Concurrency | B200:~1019MI300X:~18 | B200:~128MI300X:~6 | B200:~16MI300X:~4 |
推理性能
不同模型、硬件配置和服务参数下的推理性能指标。
厂商:
聚合模式:
投机解码: