MiniMax M2.5/M2.7 · GPU 对比
MiniMax M2.5/M2.7 — B200 vs B300
B200(NVIDIA Blackwell)与 B300(NVIDIA Blackwell)在 MiniMax M2.5/M2.7 上的正面 AI 推理基准测试对比。涵盖各类 LLM 工作负载的延迟、吞吐量与成本。使用下方图表控件切换序列、精度和指标——交互方式与主推理图表相同。
MiniMax M2.5/M2.7 在 66 tok/s/user 交互性下的吞吐量:B200 为 8554 tok/s/GPU,B300 为 7415。每百万 token 成本分别为 $0.06 和 $0.09。B200 每 token 成本低 40%;B200 每 GPU 吞吐量高出 15%。
B200 / B300 在 MiniMax M2.5/M2.7 上以 110 tok/s/user 运行:2744 / 2602 tok/s/GPU,$0.20 / $0.25 每百万 token。B200 每 token 成本低 26%;B200 每 GPU 吞吐量高出 5%。
在 22–197 tok/s/user 交互性区间的高端,即 MiniMax M2.5/M2.7 上以 154 tok/s/user 运行时:B200 达到 772 tok/s/GPU($0.71/百万 token),B300 达到 790($0.82/百万)。B200 每 token 成本低 16%;B300 每 GPU 吞吐量高出 2%。 (数据反映此 URL 的默认 1k/1k · fp4 选择——如果您在控件中更改序列、精度或模型,下方表格和图表会自动更新。)
Interpolated from real benchmark data. Edit target interactivity values below to compare at different operating points.
| Metric | Interactivity (tok/s/user) | Interactivity (tok/s/user) | Interactivity (tok/s/user) |
|---|---|---|---|
| Throughput (tok/s/gpu) | B200:8553.8B300:7414.7 | B200:2744.2B300:2602.4 | B200:772.0B300:790.4 |
| Cost ($/M tok) | B200:$0.063B300:$0.088 | B200:$0.198B300:$0.250 | B200:$0.710B300:$0.821 |
| tok/s/MW | B200:3941866B300:3416892 | B200:1264605B300:1199260 | B200:355765B300:364245 |
| Concurrency | B200:~1000B300:~524 | B200:~128B300:~68 | B200:~12B300:~14 |
推理性能
不同模型、硬件配置和服务参数下的推理性能指标。
厂商:
聚合模式:
投机解码: