MiniMax M3 428B · Chip 对比
MiniMax M3 428B — MI300X vs MI355X
MI300X(AMD CDNA 3)与 MI355X(AMD CDNA 4)在 MiniMax M3 428B 上的正面 AI 推理基准测试对比。涵盖各类 LLM 工作负载的延迟、吞吐量与成本。使用下方图表控件切换序列、精度和指标——交互方式与主推理图表相同。
在 MiniMax M3 428B 上以 45 tok/s/user 交互性运行时,MI300X 吞吐量为 707 tok/s/Chip,每百万 token 成本 $0.37;MI355X 吞吐量为 6223 tok/s/Chip,成本 $0.07。MI355X 每 token 成本低 457%;MI355X 每 Chip 吞吐量高出 780%。
MI300X 在 MiniMax M3 428B 上以 84 tok/s/user 运行时达到 588 tok/s/Chip(每百万 token $0.45);MI355X 达到 4187 tok/s/Chip($0.10)。MI355X 每 token 成本低 351%;MI355X 每 Chip 吞吐量高出 612%。
MiniMax M3 428B 在 123 tok/s/user 交互性下的吞吐量:MI300X 为 352 tok/s/Chip,MI355X 为 3108。每百万 token 成本分别为 $0.75 和 $0.13。MI355X 每 token 成本低 459%;MI355X 每 Chip 吞吐量高出 783%。 (数据反映此 URL 的默认 8k/1k · fp8 选择——如果您在控件中更改序列、精度或模型,下方表格和图表会自动更新。)
Interpolated from real benchmark data. Edit target interactivity values below to compare at different operating points.
| Metric | Interactivity (tok/s/user) | Interactivity (tok/s/user) | Interactivity (tok/s/user) |
|---|---|---|---|
| Throughput (tok/s/chip) | MI300X:707.5MI355X:6222.6 | MI300X:587.9MI355X:4186.6 | MI300X:352.0MI355X:3108.4 |
| Cost ($/M tok) | MI300X:$0.373MI355X:$0.067 | MI300X:$0.449MI355X:$0.100 | MI300X:$0.750MI355X:$0.134 |
| tok/s/MW | MI300X:508971MI355X:2977297 | MI300X:422953MI355X:2003165 | MI300X:253227MI355X:1487295 |
| Concurrency | MI300X:~16MI355X:~97 | MI300X:~7MI355X:~26 | MI300X:~3MI355X:~13 |
推理性能
不同模型、硬件配置和服务参数下的推理性能指标。
厂商:
部署模式:
投机解码: