gpt-oss 120B — Jalapeño 与 MI325X

当 gpt-oss 120B 的目标交互性为 100 tok/s/user 时，Jalapeño 与 MI325X 的吞吐量分别为 59656 和 956 tok/s/chip，每百万 token 成本分别为 $0.01 和 $0.32。Jalapeño 的成本效率高出 5305%；Jalapeño 的单芯片吞吐量高出 6140%。

以 102 tok/s/user 为目标运行 gpt-oss 120B 时，Jalapeño 的吞吐量为 59545 tok/s/chip，每百万 token 成本为 $0.01；MI325X 的吞吐量为 839 tok/s/chip，每百万 token 成本为 $0.36。Jalapeño 的成本效率高出 6046%；Jalapeño 的单芯片吞吐量高出 6996%。

105 tok/s/user 接近 98–107 tok/s/user 交互性区间的上限。在这一运行点，Jalapeño 运行 gpt-oss 120B 的吞吐量为 59379 tok/s/chip，每百万 token 成本为 $0.01；MI325X 的吞吐量为 618 tok/s/chip，每百万 token 成本为 $0.49。Jalapeño 的成本效率高出 8219%；Jalapeño 的单芯片吞吐量高出 9504%。 （以上数据基于此 URL 对应的默认 8k/1k · fp4 配置；在控件中切换序列长度、精度或模型后，下方表格和图表会同步更新。）