InferenceX
by
首页
AgentX
新
总览
仪表板
性能对比
技术文章
关于
Star
1,562
EN
任意模型在任意 GPU 上的实测结果
选一个模型和一款 GPU:下面每个页面都会回答它能跑多快、每百万 token 成本多少、以及数字出自哪个推理引擎,数据来自真实硬件上持续重跑的基准测试。
DeepSeek V4 Pro
DeepSeek V4 Pro 运行在 H200
DeepSeek V4 Pro 运行在 B200
DeepSeek V4 Pro 运行在 B300
DeepSeek V4 Pro 运行在 GB200 NVL72
DeepSeek V4 Pro 运行在 GB300 NVL72
DeepSeek V4 Pro 运行在 MI300X
DeepSeek V4 Pro 运行在 MI325X
DeepSeek V4 Pro 运行在 MI355X
DeepSeek R1
DeepSeek R1 运行在 H100
DeepSeek R1 运行在 H200
DeepSeek R1 运行在 B200
DeepSeek R1 运行在 B300
DeepSeek R1 运行在 GB200 NVL72
DeepSeek R1 运行在 GB300 NVL72
DeepSeek R1 运行在 MI300X
DeepSeek R1 运行在 MI325X
DeepSeek R1 运行在 MI355X
Kimi K3
Kimi K3 运行在 H200
Kimi K3 运行在 B200
Kimi K3 运行在 B300
Kimi K3 运行在 GB200 NVL72
Kimi K3 运行在 GB300 NVL72
Kimi K3 运行在 MI355X
Kimi K2.6
Kimi K2.6 运行在 H200
Kimi K2.6 运行在 B200
Kimi K2.6 运行在 B300
Kimi K2.6 运行在 GB200 NVL72
Kimi K2.6 运行在 GB300 NVL72
Kimi K2.6 运行在 MI300X
Kimi K2.6 运行在 MI325X
Kimi K2.6 运行在 MI355X
GLM-5
GLM-5 运行在 H200
GLM-5 运行在 B200
GLM-5 运行在 B300
GLM-5 运行在 GB200 NVL72
GLM-5 运行在 GB300 NVL72
GLM-5 运行在 MI325X
GLM-5 运行在 MI355X
GLM-5.2
GLM-5.2 运行在 H200
GLM-5.2 运行在 B200
GLM-5.2 运行在 B300
GLM-5.2 运行在 GB200 NVL72
GLM-5.2 运行在 GB300 NVL72
GLM-5.2 运行在 MI325X
GLM-5.2 运行在 MI355X
MiniMax M3
MiniMax M3 运行在 H100
MiniMax M3 运行在 H200
MiniMax M3 运行在 B200
MiniMax M3 运行在 B300
MiniMax M3 运行在 GB200 NVL72
MiniMax M3 运行在 GB300 NVL72
MiniMax M3 运行在 MI300X
MiniMax M3 运行在 MI325X
MiniMax M3 运行在 MI355X
MiniMax M2.7
MiniMax M2.7 运行在 H100
MiniMax M2.7 运行在 H200
MiniMax M2.7 运行在 B200
MiniMax M2.7 运行在 B300
MiniMax M2.7 运行在 GB200 NVL72
MiniMax M2.7 运行在 GB300 NVL72
MiniMax M2.7 运行在 MI300X
MiniMax M2.7 运行在 MI325X
MiniMax M2.7 运行在 MI355X
Qwen3.5
Qwen3.5 运行在 H100
Qwen3.5 运行在 H200
Qwen3.5 运行在 B200
Qwen3.5 运行在 B300
Qwen3.5 运行在 GB200 NVL72
Qwen3.5 运行在 GB300 NVL72
Qwen3.5 运行在 MI300X
Qwen3.5 运行在 MI325X
Qwen3.5 运行在 MI355X
gpt-oss-120b
gpt-oss-120b 运行在 H100
gpt-oss-120b 运行在 H200
gpt-oss-120b 运行在 B200
gpt-oss-120b 运行在 GB200 NVL72
gpt-oss-120b 运行在 MI300X
gpt-oss-120b 运行在 MI325X
gpt-oss-120b 运行在 MI355X
Llama 3.3 70B
Llama 3.3 70B 运行在 H100
Llama 3.3 70B 运行在 H200
Llama 3.3 70B 运行在 B200
Llama 3.3 70B 运行在 MI300X
Llama 3.3 70B 运行在 MI325X
Llama 3.3 70B 运行在 MI355X