全部模型与 GPU 组合
MiniMax M2.5/M2.7NVIDIA Hopper

在 H200 上运行 MiniMax M2.7

快速结论

MiniMax M2.7 在 H200 上、每用户每秒 50 token 档位下单 GPU 可持续输出 2,523 token/s,按超大规模云价格折合每百万 token $0.13,推理引擎为 vLLM。全部实测配置中最快 TTFT 为 0.1 ms,最快 TPOT 为 0.0 ms(两者各自取最优,可能来自不同配置)。

实测配置数

24

推理引擎

vLLM

精度

fp8

运行日期

2026-03-282026-06-05

各交互档位下的吞吐表现

推理部署是一种权衡:单 GPU 上并发用户越多,每个用户收到 token 的速度就越慢。下表在单轮对话工作负载(8k 输入 / 1k 输出)下按每个单用户速度目标读取实测前沿,取该工作点上最优的引擎与精度。

单用户速度目标单 GPU 每秒 token 数每百万 token 成本推理引擎精度
30 tok/s3,662$0.093vLLMfp8
50 tok/s2,523$0.13vLLMfp8
75 tok/s1,767$0.19vLLMfp8
100 tok/s1,067$0.32vLLMfp8
150 tok/s--vLLMfp8
200 tok/s--vLLMfp8

实际部署成本

将每用户每秒 50 token 工作点的实测吞吐,按 SemiAnalysis AI Cloud TCO 模型的各档租用价格换算为每百万 token(输入加输出)成本。

价格档位$/GPU/小时每百万 token 成本
超大规模云$1.22$0.13
新兴云$1.59$0.18
零售租用$2.05$0.23

常见问题

MiniMax M2.7 在 H200 上能跑多快?
在单轮对话工作负载(8k 输入 / 1k 输出)、每用户每秒 50 token 的交互档位下,H200 部署 MiniMax M2.7 单 GPU 可持续输出 2,523 token/s,推理引擎为 vLLM,精度 FP8。全部配置中的实测峰值吞吐为单 GPU 6,074 token/s。
在 H200 上部署 MiniMax M2.7 的成本是多少?
按超大规模云 $/GPU/小时 价格、每用户每秒 50 token 档位计算,每百万 token(输入加输出)成本为 $0.13。新兴云与零售租用价格见上方表格;更慢的交互档位成本更低。
哪些推理引擎可以在 H200 上运行 MiniMax M2.7?
本页数据来自 vLLM,精度覆盖 FP8。推理引擎持续重新构建并重跑基准,最优配置可能随时变化。
这些 MiniMax M2.7 数据是如何测得的?
所有数字均由 InferenceX 集群在真实 H200 硬件上实测,通过在单轮对话工作负载(8k 输入 / 1k 输出)下扫描并发数绘制吞吐与交互速度前沿曲线;最新一次运行落在 2026-06-05。推导方式与 InferenceX 总览排行榜完全一致。

继续探索数据