MiniMax M3 428B · GPU 对比
MiniMax M3 428B — B300 vs H100
B300(NVIDIA Blackwell)与 H100(NVIDIA Hopper)在 MiniMax M3 428B 上的正面 AI 推理基准测试对比。涵盖各类 LLM 工作负载的延迟、吞吐量与成本。使用下方图表控件切换序列、精度和指标——交互方式与主推理图表相同。
在 15–260 tok/s/user 交互性区间的低端,即 MiniMax M3 428B 上以 76 tok/s/user 运行时:B300 达到 2502 tok/s/GPU($0.27/百万 token),H100 达到 537($0.67/百万)。B300 每 token 成本低 147%;B300 每 GPU 吞吐量高出 366%。
以 138 tok/s/user 为目标在 MiniMax M3 428B 上运行时,B300 产出 1104 tok/s/GPU(每百万 token $0.59),H100 产出 237($1.52)。B300 每 token 成本低 157%;B300 每 GPU 吞吐量高出 367%。
在 MiniMax M3 428B 上以 199 tok/s/user 交互性运行时,B300 吞吐量为 603 tok/s/GPU,每百万 token 成本 $1.07;H100 吞吐量为 157 tok/s/GPU,成本 $2.31。B300 每 token 成本低 116%;B300 每 GPU 吞吐量高出 285%。 (数据反映此 URL 的默认 1k/1k · fp8 选择——如果您在控件中更改序列、精度或模型,下方表格和图表会自动更新。)
Interpolated from real benchmark data. Edit target interactivity values below to compare at different operating points.
| Metric | Interactivity (tok/s/user) | Interactivity (tok/s/user) | Interactivity (tok/s/user) |
|---|---|---|---|
| Throughput (tok/s/gpu) | B300:2502.2H100:536.7 | B300:1103.7H100:236.6 | B300:603.4H100:156.6 |
| Cost ($/M tok) | B300:$0.272H100:$0.673 | B300:$0.590H100:$1.518 | B300:$1.067H100:$2.307 |
| tok/s/MW | B300:1153095H100:310239 | B300:508633H100:136749 | B300:278060H100:90500 |
| Concurrency | B300:~79H100:~31 | B300:~18H100:~8 | B300:~8H100:~4 |
推理性能
不同模型、硬件配置和服务参数下的推理性能指标。
厂商:
聚合模式:
投机解码: