MiniMax M3 428B · GPU 对比

MiniMax M3 428B — B300 vs H100

B300NVIDIA Blackwell)与 H100NVIDIA Hopper)在 MiniMax M3 428B 上的正面 AI 推理基准测试对比。涵盖各类 LLM 工作负载的延迟、吞吐量与成本。使用下方图表控件切换序列、精度和指标——交互方式与主推理图表相同。

在 15–260 tok/s/user 交互性区间的低端,即 MiniMax M3 428B 上以 76 tok/s/user 运行时:B300 达到 2502 tok/s/GPU($0.27/百万 token),H100 达到 537($0.67/百万)。B300 每 token 成本低 147%;B300 每 GPU 吞吐量高出 366%。

以 138 tok/s/user 为目标在 MiniMax M3 428B 上运行时,B300 产出 1104 tok/s/GPU(每百万 token $0.59),H100 产出 237($1.52)。B300 每 token 成本低 157%;B300 每 GPU 吞吐量高出 367%。

在 MiniMax M3 428B 上以 199 tok/s/user 交互性运行时,B300 吞吐量为 603 tok/s/GPU,每百万 token 成本 $1.07;H100 吞吐量为 157 tok/s/GPU,成本 $2.31。B300 每 token 成本低 116%;B300 每 GPU 吞吐量高出 285%。 (数据反映此 URL 的默认 1k/1k · fp8 选择——如果您在控件中更改序列、精度或模型,下方表格和图表会自动更新。)

查看每美元性能对比 →

Interpolated from real benchmark data. Edit target interactivity values below to compare at different operating points.
Metric
Interactivity (tok/s/user)
Interactivity (tok/s/user)
Interactivity (tok/s/user)
Throughput (tok/s/gpu)
B300:2502.2H100:536.7
B300:1103.7H100:236.6
B300:603.4H100:156.6
Cost ($/M tok)
B300:$0.272H100:$0.673
B300:$0.590H100:$1.518
B300:$1.067H100:$2.307
tok/s/MW
B300:1153095H100:310239
B300:508633H100:136749
B300:278060H100:90500
Concurrency
B300:~79H100:~31
B300:~18H100:~8
B300:~8H100:~4

推理性能

不同模型、硬件配置和服务参数下的推理性能指标。

厂商:
聚合模式:
投机解码: