Kimi K2.5/K2.6/K2.7-Code 1T — Jalapeño 与 MI355X
对比 Jalapeño（OpenAI Jalapeño）与 MI355X（AMD CDNA 4）在 Kimi K2.5/K2.6/K2.7-Code 1T 上的 AI 推理基准测试结果，涵盖不同 LLM 工作负载下的延迟、吞吐量和成本。可通过下方图表控件切换序列长度、精度和指标，操作方式与主推理图表相同。
在 Kimi K2.5/K2.6/K2.7-Code 1T 的 76 tok/s/user 运行点，Jalapeño 的吞吐量为 12110 tok/s/chip，每百万 token 成本为 $0.03；MI355X 的吞吐量为 2213 tok/s/chip，每百万 token 成本为 $0.19。Jalapeño 的成本效率高出 546%；Jalapeño 的单芯片吞吐量高出 447%。
当 Kimi K2.5/K2.6/K2.7-Code 1T 的目标交互性为 92 tok/s/user 时，Jalapeño 与 MI355X 的吞吐量分别为 11370 和 1821 tok/s/chip，每百万 token 成本分别为 $0.03 和 $0.23。Jalapeño 的成本效率高出 637%；Jalapeño 的单芯片吞吐量高出 524%。
以 107 tok/s/user 为目标运行 Kimi K2.5/K2.6/K2.7-Code 1T 时，Jalapeño 的吞吐量为 10575 tok/s/chip，每百万 token 成本为 $0.03；MI355X 的吞吐量为 1418 tok/s/chip，每百万 token 成本为 $0.29。Jalapeño 的成本效率高出 781%；Jalapeño 的单芯片吞吐量高出 646%。 （以上数据基于此 URL 对应的默认 8k/1k · fp4 配置；在控件中切换序列长度、精度或模型后，下方表格和图表会同步更新。）
| 指标 | 交互性（tok/s/user） | 交互性（tok/s/user） | 交互性（tok/s/user） |
|---|---|---|---|
| 吞吐量（tok/s/chip） | Jalapeño:12110.3MI355X:2213.5 | Jalapeño:11369.9MI355X:1821.0 | Jalapeño:10575.4MI355X:1418.1 |
| 成本（$/M tok） | Jalapeño:$0.029MI355X:$0.188 | Jalapeño:$0.031MI355X:$0.229 | Jalapeño:$0.033MI355X:$0.294 |
| tok/s/MW | Jalapeño:10764719MI355X:1059089 | Jalapeño:10106603MI355X:871276 | Jalapeño:9400353MI355X:678507 |
| 并发数 | Jalapeño:~1500MI355X:~13 | Jalapeño:~1037MI355X:~9 | Jalapeño:~756MI355X:~5 |