DeepSeek V4 Pro 0813 1.6T
Kimi K3 2.8T
GLM5.2/GLM5.3 744B
Qwen3.5 397BDeepSeek V4 Pro 0813 1.6T
长上下文、多轮交互的真实智能体场景（AgentX）
B200
vLLM · FP4
MI355X
$0.010成本比 B200 高 40%
ATOM¹ · FP4
B300
$0.009成本比 B200 高 20%
vLLM · FP4
GB200 NVL72
—
无精确 @50 结果
GB300 NVL72
—
无精确 @50 结果
智能体推理成本
超大规模云厂商成本 ↓ 越低越好 来源：InferenceX 与 SemiAnalysis Market July 2026 Pricing Surveys & AI Cloud TCO Model
| 模型 · 场景 | B200 · 基准 | MI355X | B300 | GB200 NVL72 | GB300 NVL72 |
|---|---|---|---|---|---|
DeepSeek V4 Pro 0813 1.6T长上下文、多轮交互的真实智能体场景（AgentX） | vLLM · FP4 | $0.010成本比 B200 高 40% ATOM¹ · FP4 | $0.009成本比 B200 高 20% vLLM · FP4 | — 无精确 @50 结果 | — 无精确 @50 结果 |
DeepSeek V4.1 Flash 552B长上下文、多轮交互的真实智能体场景（AgentX） | — 无精确 @50 结果 | — 无精确 @50 结果 | — 无精确 @50 结果 | — 无精确 @50 结果 | $0.002缺少可比较的 B200 基线 vLLM · FP4 |
Kimi K3 2.8T长上下文、多轮交互的真实智能体场景（AgentX） | Dynamo vLLM · FP4 | $0.038成本比 B200 低 49% ATOM¹ · FP4 | $0.103成本比 B200 高 40% vLLM · FP4 | $0.061成本比 B200 低 18% Dynamo vLLM · FP4 | — 无精确 @50 结果 |
GLM5.2/GLM5.3 744B长上下文、多轮交互的真实智能体场景（AgentX） | — 无精确 @50 结果 | $0.023缺少可比较的 B200 基线 SGLang · FP4 | $0.018缺少可比较的 B200 基线 Dynamo SGLang · FP4 | — 无精确 @50 结果 | — 无精确 @50 结果 |
Qwen3.5 397B长上下文、多轮交互的真实智能体场景（AgentX） | SGLang · FP8 | $0.008成本比 B200 低 58% SGLang · FP8 | $0.006成本比 B200 低 68% Dynamo SGLang · FP4 | $0.006成本比 B200 低 69% Dynamo SGLang · FP4 | — 无精确 @50 结果 |
Qwen3.8 Flash Next 176B长上下文、多轮交互的真实智能体场景（AgentX） | — 无精确 @50 结果 | — 该场景暂无数据 | — 无精确 @50 结果 | — 该场景暂无数据 | $0.005缺少可比较的 B200 基线 SGLang · FP4 |
Qwen3.5 397B8K/1K | TRTLLM · FP4 | $0.051成本比 B200 高 43% SGLang · FP4 | $0.035与 B200 成本基本持平 SGLang · FP4 | — 无精确 @50 结果 | $0.040成本比 B200 高 11% Dynamo TRTLLM · FP4 · STP |
- 查看详情
DeepSeek V4.1 Flash 552B
长上下文、多轮交互的真实智能体场景（AgentX）
查看详情B200—无精确 @50 结果MI355X—无精确 @50 结果B300—无精确 @50 结果GB200 NVL72—无精确 @50 结果GB300 NVL72$0.002缺少可比较的 B200 基线vLLM · FP4Kimi K3 2.8T
长上下文、多轮交互的真实智能体场景（AgentX）
查看详情B200Dynamo vLLM · FP4MI355X$0.038成本比 B200 低 49%ATOM¹ · FP4B300$0.103成本比 B200 高 40%vLLM · FP4GB200 NVL72$0.061成本比 B200 低 18%Dynamo vLLM · FP4GB300 NVL72—无精确 @50 结果GLM5.2/GLM5.3 744B
长上下文、多轮交互的真实智能体场景（AgentX）
查看详情B200—无精确 @50 结果MI355X$0.023缺少可比较的 B200 基线SGLang · FP4B300$0.018缺少可比较的 B200 基线Dynamo SGLang · FP4GB200 NVL72—无精确 @50 结果GB300 NVL72—无精确 @50 结果Qwen3.5 397B
长上下文、多轮交互的真实智能体场景（AgentX）
查看详情B200SGLang · FP8MI355X$0.008成本比 B200 低 58%SGLang · FP8B300$0.006成本比 B200 低 68%Dynamo SGLang · FP4GB200 NVL72$0.006成本比 B200 低 69%Dynamo SGLang · FP4GB300 NVL72—无精确 @50 结果Qwen3.8 Flash Next 176B
长上下文、多轮交互的真实智能体场景（AgentX）
查看详情B200—无精确 @50 结果MI355X—该场景暂无数据B300—无精确 @50 结果GB200 NVL72—该场景暂无数据GB300 NVL72$0.005缺少可比较的 B200 基线SGLang · FP4Qwen3.5 397B
8K/1K
查看详情B200TRTLLM · FP4MI355X$0.051成本比 B200 高 43%SGLang · FP4B300$0.035与 B200 成本基本持平SGLang · FP4GB200 NVL72—无精确 @50 结果GB300 NVL72$0.040成本比 B200 高 11%Dynamo TRTLLM · FP4STP
— = 无结果。∞ = 缺少 B200 基线。
如果某款芯片没有可用的 FP4 投机解码配置，则改用次优配置。