GLM 5.3 744B
GLM-5.2 最快 GPU 排行
测试基于AgentX 智能体编码工作负载,交互速度统一设定为每用户每秒 50 token。在该工作点没有实测数据的硬件不参与排名。
| 排名 | GPU | 单 GPU 每秒 token 数 | 每百万 token 成本 | 精度 | 推理引擎 |
|---|---|---|---|---|---|
| 1 | MI355X | 10,382 | $0.040 | fp4 | SGLang |
更关注成本而不是速度? 查看运行 GLM-5.2 最省钱的 GPU
测试方法
本页所有数字都来自实测,而非纸面规格估算。InferenceX 集群使用社区推理引擎在真实硬件上部署 GLM-5.2,通过扫描并发数绘制每个平台的吞吐与交互速度前沿曲线。
所有平台在同一工作点(每用户每秒 50 token)读取,保证对比是等交互速度的:任何 GPU 都无法靠牺牲单用户速度换取纸面吞吐来取胜。成本按 SemiAnalysis AI Cloud TCO 模型的 $/GPU/小时 价格,把实测吞吐换算为每百万 token(输入加输出)成本。
推导逻辑与 InferenceX 总览排行榜共用,基准测试持续重跑,新引擎版本和新配置落地后排行会自动更新。
常见问题
- GLM-5.2 推理最快的 GPU 是哪款?
- 按最新基准测试结果,MI355X 在AgentX 智能体编码工作负载下以单 GPU 每秒 10,382 token 领先,交互速度统一设定为每用户每秒 50 token。
- “最快”是如何衡量的?
- 所有平台都在相同的交互速度档位(每用户每秒 50 token)和AgentX 智能体编码工作负载下读取,再按实测单 GPU 吞吐排名。推导方式与 InferenceX 总览排行榜完全一致,因此本页排名不会与仪表盘出现分歧。
- 排行多久更新一次?
- 基准测试在 InferenceX 集群上持续运行,本排行最新一条结果落在 2026-08-25。页面始终渲染最新数据。