全部模型与 GPU 组合

Muse Spark 1.3/Open 816BNVIDIA Blackwell

在 B200 上运行 Muse Spark 1.3/Open

快速结论

Muse Spark 1.3/Open 可在 B200 上运行:目前已有 8 组实测配置,各档位实测结果见下方阶梯表。

实测配置数
8
推理引擎
SGLang
精度
FP4
运行日期
2026-11-06

各交互档位下的吞吐表现

推理部署是一种权衡:单 GPU 上并发用户越多,每个用户收到 token 的速度就越慢。下表在AgentX coding agent 工作负载下按每个单用户速度目标读取实测前沿,取该工作点上最优的引擎与精度。

单用户速度目标单 GPU 每秒 token 数每百万 token 成本推理引擎精度
30 tok/s--SGLangfp4
50 tok/s--SGLangfp4
75 tok/s--SGLangfp4
100 tok/s40,890$0.012SGLangfp4
150 tok/s28,940$0.017SGLangfp4
200 tok/s19,708$0.024SGLangfp4

常见问题

Muse Spark 1.3/Open 在 B200 上能跑多快?
InferenceX 集群已为该组合完成 8 组实测配置,各交互档位的实测结果见上方阶梯表。
在 B200 上部署 Muse Spark 1.3/Open 的成本是多少?
每百万 token 成本由实测吞吐和 SemiAnalysis AI Cloud TCO 模型的 $/GPU/小时 价格换算得出,待该组合达到主交互档位后即会显示。
哪些推理引擎可以在 B200 上运行 Muse Spark 1.3/Open?
本页数据来自 SGLang,精度覆盖 FP4。推理引擎持续重新构建并重跑基准,最优配置可能随时变化。
这些 Muse Spark 1.3/Open 数据是如何测得的?
所有数字均由 InferenceX 集群在真实 B200 硬件上实测,通过在AgentX coding agent 工作负载下扫描并发数绘制吞吐与交互速度前沿曲线;最新一次运行落在 2026-11-06。推导方式与 InferenceX 总览排行榜完全一致。

继续探索数据