Kimi K2.5/K2.6/K2.7-Code 1T — B300 与 Jalapeño
对比 B300（NVIDIA Blackwell）与 Jalapeño（OpenAI Jalapeño）在 Kimi K2.5/K2.6/K2.7-Code 1T 上的 AI 推理基准测试结果，涵盖不同 LLM 工作负载下的延迟、吞吐量和成本。可通过下方图表控件切换序列长度、精度和指标，操作方式与主推理图表相同。
以 89 tok/s/user 为目标运行 Kimi K2.5/K2.6/K2.7-Code 1T 时，B300 的吞吐量为 2020 tok/s/chip，每百万 token 成本为 $0.31；Jalapeño 的吞吐量为 11518 tok/s/chip，每百万 token 成本为 $0.03。Jalapeño 的成本效率高出 914%；Jalapeño 的单芯片吞吐量高出 470%。
117 tok/s/user 位于 61–173 tok/s/user 交互性区间的中段。在这一运行点，B300 运行 Kimi K2.5/K2.6/K2.7-Code 1T 的吞吐量为 1196 tok/s/chip，每百万 token 成本为 $0.52；Jalapeño 的吞吐量为 9997 tok/s/chip，每百万 token 成本为 $0.04。Jalapeño 的成本效率高出 1387%；Jalapeño 的单芯片吞吐量高出 736%。
将 Kimi K2.5/K2.6/K2.7-Code 1T 的目标交互性设为 145 tok/s/user 时，B300 的吞吐量为 585 tok/s/chip，每百万 token 成本为 $1.07；Jalapeño 的吞吐量为 8213 tok/s/chip，每百万 token 成本为 $0.04。Jalapeño 的成本效率高出 2398%；Jalapeño 的单芯片吞吐量高出 1303%。 （以上数据基于此 URL 对应的默认 8k/1k · fp4 配置；在控件中切换序列长度、精度或模型后，下方表格和图表会同步更新。）
| 指标 | 交互性（tok/s/user） | 交互性（tok/s/user） | 交互性（tok/s/user） |
|---|---|---|---|
| 吞吐量（tok/s/chip） | B300:2020.3Jalapeño:11517.6 | B300:1196.0Jalapeño:9997.1 | B300:585.2Jalapeño:8213.2 |
| 成本（$/M tok） | B300:$0.311Jalapeño:$0.031 | B300:$0.525Jalapeño:$0.035 | B300:$1.073Jalapeño:$0.043 |
| tok/s/MW | B300:1063329Jalapeño:10237897 | B300:629472Jalapeño:8886344 | B300:308005Jalapeño:7300618 |
| 并发数 | B300:~10Jalapeño:~1112 | B300:~5Jalapeño:~629 | B300:~2Jalapeño:~358 |