MiniMax M3 428B · Chip 对比
MiniMax M3 428B — B200 vs MI355X
B200(NVIDIA Blackwell)与 MI355X(AMD CDNA 4)在 MiniMax M3 428B 上的正面 AI 推理基准测试对比。涵盖各类 LLM 工作负载的延迟、吞吐量与成本。使用下方图表控件切换序列、精度和指标——交互方式与主推理图表相同。
B200 / MI355X 在 MiniMax M3 428B 上以 95 tok/s/user 运行:1518 / 1506 tok/s/Chip,$0.32 / $0.28 每百万 token。MI355X 每 token 成本低 14%;每 Chip 吞吐量基本持平。
在 11–348 tok/s/user 交互性区间的中部,即 MiniMax M3 428B 上以 179 tok/s/user 运行时:B200 达到 611 tok/s/Chip($0.79/百万 token),MI355X 达到 572($0.73/百万)。MI355X 每 token 成本低 8%;B200 每 Chip 吞吐量高出 7%。
以 264 tok/s/user 为目标在 MiniMax M3 428B 上运行时,B200 产出 234 tok/s/Chip(每百万 token $2.06),MI355X 产出 217($1.92)。MI355X 每 token 成本低 7%;B200 每 Chip 吞吐量高出 8%。 (数据反映此 URL 的默认 1k/1k · fp8 选择——如果您在控件中更改序列、精度或模型,下方表格和图表会自动更新。)
Interpolated from real benchmark data. Edit target interactivity values below to compare at different operating points.
| Metric | Interactivity (tok/s/user) | Interactivity (tok/s/user) | Interactivity (tok/s/user) |
|---|---|---|---|
| Throughput (tok/s/chip) | B200:1517.9MI355X:1505.7 | B200:610.5MI355X:571.6 | B200:233.7MI355X:217.0 |
| Cost ($/M tok) | B200:$0.317MI355X:$0.277 | B200:$0.787MI355X:$0.729 | B200:$2.056MI355X:$1.920 |
| tok/s/MW | B200:887649MI355X:720453 | B200:357033MI355X:273507 | B200:136664MI355X:103837 |
| Concurrency | B200:~46MI355X:~35 | B200:~7MI355X:~7 | B200:~2MI355X:~2 |
推理性能
不同模型、硬件配置和服务参数下的推理性能指标。
厂商:
部署模式:
投机解码: