DeepSeekv4 Pro 0813 1.6T
在 DeepSeekv4 Pro 0813 1.6T 上共有 8 组投机解码对比，均有基准测试数据。
B200 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B300 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB200 NVL72 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB300 NVL72 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
H200 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Hopper
MI300X FP8 — 启用 MTP 与关闭投机解码
AMD · CDNA 3
MI325X FP8 — 启用 MTP 与关闭投机解码
AMD · CDNA 3
MI355X FP4 — 启用 MTP 与关闭投机解码
AMD · CDNA 4
DeepSeek R1
在 DeepSeek R1 上共有 13 组投机解码对比，均有基准测试数据。
B200 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B200 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B300 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B300 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB200 NVL72 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB200 NVL72 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB300 NVL72 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB300 NVL72 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
H100 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Hopper
H200 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Hopper
MI325X FP8 — 启用 MTP 与关闭投机解码
AMD · CDNA 3
MI355X FP4 — 启用 MTP 与关闭投机解码
AMD · CDNA 4
MI355X FP8 — 启用 MTP 与关闭投机解码
AMD · CDNA 4
Kimi K3 2.8T
在 Kimi K3 2.8T 上共有 3 组投机解码对比，均有基准测试数据。
GLM 5/5.1
在 GLM 5/5.1 上共有 11 组投机解码对比，均有基准测试数据。
B200 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B200 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B300 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B300 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB200 NVL72 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB200 NVL72 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB300 NVL72 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB300 NVL72 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
H200 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Hopper
MI325X FP8 — 启用 MTP 与关闭投机解码
AMD · CDNA 3
MI355X FP8 — 启用 MTP 与关闭投机解码
AMD · CDNA 4
MiniMax M3 428B
在 MiniMax M3 428B 上共有 11 组投机解码对比，均有基准测试数据。
B200 FP4 — 启用 M3 EAGLE 与关闭投机解码
NVIDIA · Blackwell
B200 FP8 — 启用 M3 EAGLE 与关闭投机解码
NVIDIA · Blackwell
B300 FP4 — 启用 M3 EAGLE 与关闭投机解码
NVIDIA · Blackwell
B300 FP8 — 启用 M3 EAGLE 与关闭投机解码
NVIDIA · Blackwell
GB300 NVL72 FP8 — 启用 M3 EAGLE 与关闭投机解码
NVIDIA · Blackwell
H100 FP8 — 启用 M3 EAGLE 与关闭投机解码
NVIDIA · Hopper
H200 FP8 — 启用 M3 EAGLE 与关闭投机解码
NVIDIA · Hopper
MI300X FP8 — 启用 M3 EAGLE 与关闭投机解码
AMD · CDNA 3
MI325X FP8 — 启用 M3 EAGLE 与关闭投机解码
AMD · CDNA 3
MI355X FP4 — 启用 M3 EAGLE 与关闭投机解码
AMD · CDNA 4
MI355X FP8 — 启用 M3 EAGLE 与关闭投机解码
AMD · CDNA 4
Qwen 3.5 397B-A17B
在 Qwen 3.5 397B-A17B 上共有 18 组投机解码对比，均有基准测试数据。
B200 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B200 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B200 BF16 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B300 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B300 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
B300 BF16 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB200 NVL72 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB300 NVL72 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
GB300 NVL72 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell
H100 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Hopper
H200 FP8 — 启用 MTP 与关闭投机解码
NVIDIA · Hopper
MI300X FP8 — 启用 MTP 与关闭投机解码
AMD · CDNA 3
MI325X FP8 — 启用 MTP 与关闭投机解码
AMD · CDNA 3
MI325X BF16 — 启用 MTP 与关闭投机解码
AMD · CDNA 3
MI355X FP4 — 启用 MTP 与关闭投机解码
AMD · CDNA 4
MI355X FP8 — 启用 MTP 与关闭投机解码
AMD · CDNA 4
MI355X BF16 — 启用 MTP 与关闭投机解码
AMD · CDNA 4
RTX PRO 6000 FP4 — 启用 MTP 与关闭投机解码
NVIDIA · Blackwell