芯片投机解码对比

共 69 组投机解码对比,涵盖 DeepSeek V4 Pro 0813 1.6T、DeepSeek R1、Kimi K3.1 Pro 2.8T、Kimi K3 2.8T、GLM 5/5.1、MiniMax M3 428B、Qwen 3.5 397B-A17B。每个页面都会在同一模型和芯片上,对比启用某种投机解码方法(MTP、EAGLE 等)与关闭投机解码时的推理表现,并在相同交互性水平下比较吞吐量和成本。

Kimi K3.1 Pro 2.8T

在 Kimi K3.1 Pro 2.8T 上共有 1 组投机解码对比,均有基准测试数据