MiniMax M2.5/M2.7 · Chip 对比
MiniMax M2.5/M2.7 — B200 vs B300
B200(NVIDIA Blackwell)与 B300(NVIDIA Blackwell)在 MiniMax M2.5/M2.7 上的正面 AI 推理基准测试对比。涵盖各类 LLM 工作负载的延迟、吞吐量与成本。使用下方图表控件切换序列、精度和指标——交互方式与主推理图表相同。
MiniMax M2.5/M2.7 在 66 tok/s/user 交互性下的吞吐量:B200 为 8554 tok/s/Chip,B300 为 7415。每百万 token 成本分别为 $0.06 和 $0.08。B200 每 token 成本低 51%;B200 每 Chip 吞吐量高出 15%。
B200 / B300 在 MiniMax M2.5/M2.7 上以 110 tok/s/user 运行:2744 / 2602 tok/s/Chip,$0.18 / $0.24 每百万 token。B200 每 token 成本低 38%;B200 每 Chip 吞吐量高出 5%。
在 22–197 tok/s/user 交互性区间的高端,即 MiniMax M2.5/M2.7 上以 154 tok/s/user 运行时:B200 达到 772 tok/s/Chip($0.62/百万 token),B300 达到 790($0.79/百万)。B200 每 token 成本低 28%;B300 每 Chip 吞吐量高出 2%。 (数据反映此 URL 的默认 1k/1k · fp4 选择——如果您在控件中更改序列、精度或模型,下方表格和图表会自动更新。)
Interpolated from real benchmark data. Edit target interactivity values below to compare at different operating points.
| Metric | Interactivity (tok/s/user) | Interactivity (tok/s/user) | Interactivity (tok/s/user) |
|---|---|---|---|
| Throughput (tok/s/chip) | B200:8553.8B300:7414.7 | B200:2744.2B300:2602.4 | B200:772.0B300:790.4 |
| Cost ($/M tok) | B200:$0.056B300:$0.085 | B200:$0.175B300:$0.241 | B200:$0.622B300:$0.794 |
| tok/s/MW | B200:5002251B300:3902450 | B200:1604791B300:1369681 | B200:451468B300:416006 |
| Concurrency | B200:~1000B300:~524 | B200:~128B300:~68 | B200:~12B300:~14 |
推理性能
不同模型、硬件配置和服务参数下的推理性能指标。
厂商:
部署模式:
投机解码: