MiniMax M3 428B · Chip 对比

MiniMax M3 428B — MI300X vs MI355X

MI300XAMD CDNA 3)与 MI355XAMD CDNA 4)在 MiniMax M3 428B 上的正面 AI 推理基准测试对比。涵盖各类 LLM 工作负载的延迟、吞吐量与成本。使用下方图表控件切换序列、精度和指标——交互方式与主推理图表相同。

在 MiniMax M3 428B 上以 45 tok/s/user 交互性运行时,MI300X 吞吐量为 707 tok/s/Chip,每百万 token 成本 $0.37;MI355X 吞吐量为 6223 tok/s/Chip,成本 $0.07。MI355X 每 token 成本低 457%;MI355X 每 Chip 吞吐量高出 780%。

MI300X 在 MiniMax M3 428B 上以 84 tok/s/user 运行时达到 588 tok/s/Chip(每百万 token $0.45);MI355X 达到 4187 tok/s/Chip($0.10)。MI355X 每 token 成本低 351%;MI355X 每 Chip 吞吐量高出 612%。

MiniMax M3 428B 在 123 tok/s/user 交互性下的吞吐量:MI300X 为 352 tok/s/Chip,MI355X 为 3108。每百万 token 成本分别为 $0.75 和 $0.13。MI355X 每 token 成本低 459%;MI355X 每 Chip 吞吐量高出 783%。 (数据反映此 URL 的默认 8k/1k · fp8 选择——如果您在控件中更改序列、精度或模型,下方表格和图表会自动更新。)

查看每美元性能对比 →

Interpolated from real benchmark data. Edit target interactivity values below to compare at different operating points.
Metric
Interactivity (tok/s/user)
Interactivity (tok/s/user)
Interactivity (tok/s/user)
Throughput (tok/s/chip)
MI300X:707.5MI355X:6222.6
MI300X:587.9MI355X:4186.6
MI300X:352.0MI355X:3108.4
Cost ($/M tok)
MI300X:$0.373MI355X:$0.067
MI300X:$0.449MI355X:$0.100
MI300X:$0.750MI355X:$0.134
tok/s/MW
MI300X:508971MI355X:2977297
MI300X:422953MI355X:2003165
MI300X:253227MI355X:1487295
Concurrency
MI300X:~16MI355X:~97
MI300X:~7MI355X:~26
MI300X:~3MI355X:~13

推理性能

不同模型、硬件配置和服务参数下的推理性能指标。

厂商:
部署模式:
投机解码: