MiniMax M2.5/M2.7 · GPU 对比

MiniMax M2.5/M2.7 — B200 vs B300

B200NVIDIA Blackwell)与 B300NVIDIA Blackwell)在 MiniMax M2.5/M2.7 上的正面 AI 推理基准测试对比。涵盖各类 LLM 工作负载的延迟、吞吐量与成本。使用下方图表控件切换序列、精度和指标——交互方式与主推理图表相同。

MiniMax M2.5/M2.7 在 66 tok/s/user 交互性下的吞吐量:B200 为 8554 tok/s/GPU,B300 为 7415。每百万 token 成本分别为 $0.06 和 $0.09。B200 每 token 成本低 40%;B200 每 GPU 吞吐量高出 15%。

B200 / B300 在 MiniMax M2.5/M2.7 上以 110 tok/s/user 运行:2744 / 2602 tok/s/GPU,$0.20 / $0.25 每百万 token。B200 每 token 成本低 26%;B200 每 GPU 吞吐量高出 5%。

在 22–197 tok/s/user 交互性区间的高端,即 MiniMax M2.5/M2.7 上以 154 tok/s/user 运行时:B200 达到 772 tok/s/GPU($0.71/百万 token),B300 达到 790($0.82/百万)。B200 每 token 成本低 16%;B300 每 GPU 吞吐量高出 2%。 (数据反映此 URL 的默认 1k/1k · fp4 选择——如果您在控件中更改序列、精度或模型,下方表格和图表会自动更新。)

查看每美元性能对比 →

Interpolated from real benchmark data. Edit target interactivity values below to compare at different operating points.
Metric
Interactivity (tok/s/user)
Interactivity (tok/s/user)
Interactivity (tok/s/user)
Throughput (tok/s/gpu)
B200:8553.8B300:7414.7
B200:2744.2B300:2602.4
B200:772.0B300:790.4
Cost ($/M tok)
B200:$0.063B300:$0.088
B200:$0.198B300:$0.250
B200:$0.710B300:$0.821
tok/s/MW
B200:3941866B300:3416892
B200:1264605B300:1199260
B200:355765B300:364245
Concurrency
B200:~1000B300:~524
B200:~128B300:~68
B200:~12B300:~14

推理性能

不同模型、硬件配置和服务参数下的推理性能指标。

厂商:
聚合模式:
投机解码: