芯片每美元性能
共 566 组每百万 token 成本对比,涵盖 Muse Spark 1.3/Open 816B、DeepSeek V4 Pro 0813 1.6T、DeepSeek V4.1 Flash 552B、DeepSeek R1、Kimi K3.1 Pro 2.8T、Kimi K3 2.8T、Kimi K2.5/K2.6/K2.7-Code 1T、GLM 5/5.1、GLM 5.3 744B、MiniMax M3 428B、MiniMax M3.1 Flash 428B、MiniMax M2.5/M2.7、Qwen 3.8 Flash Next 176B-A6B、Qwen 3.5 397B-A17B、gpt-oss 120B、Llama 3.3 70B。每美元性能采用 Hyperscaler 自有设备 TCO 口径。每个页面均展示每 token 成本图表,以及根据插值结果生成的每百万 token 成本(美元)对比表,可用于找出任一目标交互性下成本较低的 SKU。
已有 AgentX 数据的模型会默认展示长上下文、多轮 trace 回放结果;尚无 AgentX 数据的模型则默认展示受控的 8K/1K 工作负载。每组对比都会标明测试场景。
Muse Spark 1.3/Open 816B
在 Muse Spark 1.3/Open 816B 上共有 28 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI355X
Blackwell · CDNA 4 · AgentX
B200 与 TPU7x
Blackwell · Ironwood · AgentX
B300 与 MI355X
Blackwell · CDNA 4 · AgentX
B300 与 TPU7x
Blackwell · Ironwood · AgentX
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 与 TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 与 TPU7x
Blackwell · Ironwood · AgentX
H200 与 MI355X
Hopper · CDNA 4 · AgentX
H200 与 TPU7x
Hopper · Ironwood · AgentX
MI355X 与 TPU7x
CDNA 4 · Ironwood · AgentX
MI355X 与 Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
TPU7x 与 Vera Rubin NVL72
Ironwood · Vera Rubin · AgentX
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · AgentX
B200 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B200 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B200 与 H200
Blackwell · Hopper · AgentX
B200 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B300 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B300 与 H200
Blackwell · Hopper · AgentX
B300 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 与 H200
Blackwell · Hopper · AgentX
GB200 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 与 H200
Blackwell · Hopper · AgentX
GB300 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H200 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
DeepSeek V4 Pro 0813 1.6T
在 DeepSeek V4 Pro 0813 1.6T 上共有 36 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI300X
Blackwell · CDNA 3 · AgentX
B200 与 MI325X
Blackwell · CDNA 3 · AgentX
B200 与 MI355X
Blackwell · CDNA 4 · AgentX
B300 与 MI300X
Blackwell · CDNA 3 · AgentX
B300 与 MI325X
Blackwell · CDNA 3 · AgentX
B300 与 MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 与 MI300X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 与 MI300X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
H200 与 MI300X
Hopper · CDNA 3 · AgentX
H200 与 MI325X
Hopper · CDNA 3 · AgentX
H200 与 MI355X
Hopper · CDNA 4 · AgentX
MI300X 与 Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI325X 与 Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI355X 与 Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · AgentX
B200 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B200 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B200 与 H200
Blackwell · Hopper · AgentX
B200 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B300 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B300 与 H200
Blackwell · Hopper · AgentX
B300 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 与 H200
Blackwell · Hopper · AgentX
GB200 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 与 H200
Blackwell · Hopper · AgentX
GB300 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H200 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
DeepSeek V4.1 Flash 552B
在 DeepSeek V4.1 Flash 552B 上共有 45 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI300X
Blackwell · CDNA 3 · AgentX
B200 与 MI325X
Blackwell · CDNA 3 · AgentX
B200 与 MI355X
Blackwell · CDNA 4 · AgentX
B300 与 MI300X
Blackwell · CDNA 3 · AgentX
B300 与 MI325X
Blackwell · CDNA 3 · AgentX
B300 与 MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 与 MI300X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 与 MI300X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
H100 与 MI300X
Hopper · CDNA 3 · AgentX
H100 与 MI325X
Hopper · CDNA 3 · AgentX
H100 与 MI355X
Hopper · CDNA 4 · AgentX
H200 与 MI300X
Hopper · CDNA 3 · AgentX
H200 与 MI325X
Hopper · CDNA 3 · AgentX
H200 与 MI355X
Hopper · CDNA 4 · AgentX
MI300X 与 Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI325X 与 Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI355X 与 Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · AgentX
B200 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B200 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B200 与 H100
Blackwell · Hopper · AgentX
B200 与 H200
Blackwell · Hopper · AgentX
B200 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B300 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B300 与 H100
Blackwell · Hopper · AgentX
B300 与 H200
Blackwell · Hopper · AgentX
B300 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 与 H100
Blackwell · Hopper · AgentX
GB200 NVL72 与 H200
Blackwell · Hopper · AgentX
GB200 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 与 H100
Blackwell · Hopper · AgentX
GB300 NVL72 与 H200
Blackwell · Hopper · AgentX
GB300 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H100 与 H200
Hopper · Hopper · AgentX
H100 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
H200 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
DeepSeek R1
在 DeepSeek R1 上共有 55 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
B200 与 MI300X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI355X
Blackwell · CDNA 4 · 8K/1K
B300 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
B300 与 MI300X
Blackwell · CDNA 3 · 8K/1K
B300 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B300 与 MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
GB200 NVL72 与 MI300X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · 8K/1K
GB300 NVL72 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
GB300 NVL72 与 MI300X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 与 MI325X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · 8K/1K
H100 与 Jalapeño
Hopper · Jalapeño · 8K/1K
H100 与 MI300X
Hopper · CDNA 3 · 8K/1K
H100 与 MI325X
Hopper · CDNA 3 · 8K/1K
H100 与 MI355X
Hopper · CDNA 4 · 8K/1K
H200 与 Jalapeño
Hopper · Jalapeño · 8K/1K
H200 与 MI300X
Hopper · CDNA 3 · 8K/1K
H200 与 MI325X
Hopper · CDNA 3 · 8K/1K
H200 与 MI355X
Hopper · CDNA 4 · 8K/1K
Jalapeño 与 MI300X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño 与 MI325X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño 与 MI355X
Jalapeño · CDNA 4 · 8K/1K
Jalapeño 与 Vera Rubin NVL72
Jalapeño · Vera Rubin · 8K/1K
MI300X 与 Vera Rubin NVL72
CDNA 3 · Vera Rubin · 8K/1K
MI325X 与 Vera Rubin NVL72
CDNA 3 · Vera Rubin · 8K/1K
MI355X 与 Vera Rubin NVL72
CDNA 4 · Vera Rubin · 8K/1K
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · 8K/1K
B200 与 GB200 NVL72
Blackwell · Blackwell · 8K/1K
B200 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
B200 与 H100
Blackwell · Hopper · 8K/1K
B200 与 H200
Blackwell · Hopper · 8K/1K
B200 与 Vera Rubin NVL72
Blackwell · Vera Rubin · 8K/1K
B300 与 GB200 NVL72
Blackwell · Blackwell · 8K/1K
B300 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
B300 与 H100
Blackwell · Hopper · 8K/1K
B300 与 H200
Blackwell · Hopper · 8K/1K
B300 与 Vera Rubin NVL72
Blackwell · Vera Rubin · 8K/1K
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
GB200 NVL72 与 H100
Blackwell · Hopper · 8K/1K
GB200 NVL72 与 H200
Blackwell · Hopper · 8K/1K
GB200 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · 8K/1K
GB300 NVL72 与 H100
Blackwell · Hopper · 8K/1K
GB300 NVL72 与 H200
Blackwell · Hopper · 8K/1K
GB300 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · 8K/1K
H100 与 H200
Hopper · Hopper · 8K/1K
H100 与 Vera Rubin NVL72
Hopper · Vera Rubin · 8K/1K
H200 与 Vera Rubin NVL72
Hopper · Vera Rubin · 8K/1K
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
Kimi K3.1 Pro 2.8T
在 Kimi K3.1 Pro 2.8T 上共有 10 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
Kimi K3 2.8T
在 Kimi K3 2.8T 上共有 28 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI355X
Blackwell · CDNA 4 · AgentX
B200 与 TPU7x
Blackwell · Ironwood · AgentX
B300 与 MI355X
Blackwell · CDNA 4 · AgentX
B300 与 TPU7x
Blackwell · Ironwood · AgentX
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 与 TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 与 TPU7x
Blackwell · Ironwood · AgentX
H200 与 MI355X
Hopper · CDNA 4 · AgentX
H200 与 TPU7x
Hopper · Ironwood · AgentX
MI355X 与 TPU7x
CDNA 4 · Ironwood · AgentX
MI355X 与 Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
TPU7x 与 Vera Rubin NVL72
Ironwood · Vera Rubin · AgentX
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · AgentX
B200 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B200 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B200 与 H200
Blackwell · Hopper · AgentX
B200 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B300 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B300 与 H200
Blackwell · Hopper · AgentX
B300 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 与 H200
Blackwell · Hopper · AgentX
GB200 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 与 H200
Blackwell · Hopper · AgentX
GB300 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H200 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
Kimi K2.5/K2.6/K2.7-Code 1T
在 Kimi K2.5/K2.6/K2.7-Code 1T 上共有 36 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
B200 与 MI300X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI355X
Blackwell · CDNA 4 · 8K/1K
B300 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
B300 与 MI300X
Blackwell · CDNA 3 · 8K/1K
B300 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B300 与 MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
GB200 NVL72 与 MI300X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · 8K/1K
GB300 NVL72 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
GB300 NVL72 与 MI300X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 与 MI325X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · 8K/1K
H200 与 Jalapeño
Hopper · Jalapeño · 8K/1K
H200 与 MI300X
Hopper · CDNA 3 · 8K/1K
H200 与 MI325X
Hopper · CDNA 3 · 8K/1K
H200 与 MI355X
Hopper · CDNA 4 · 8K/1K
Jalapeño 与 MI300X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño 与 MI325X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño 与 MI355X
Jalapeño · CDNA 4 · 8K/1K
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · 8K/1K
B200 与 GB200 NVL72
Blackwell · Blackwell · 8K/1K
B200 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
B200 与 H200
Blackwell · Hopper · 8K/1K
B300 与 GB200 NVL72
Blackwell · Blackwell · 8K/1K
B300 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
B300 与 H200
Blackwell · Hopper · 8K/1K
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
GB200 NVL72 与 H200
Blackwell · Hopper · 8K/1K
GB300 NVL72 与 H200
Blackwell · Hopper · 8K/1K
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
GLM 5/5.1
在 GLM 5/5.1 上共有 21 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI355X
Blackwell · CDNA 4 · 8K/1K
B300 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B300 与 MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · 8K/1K
GB300 NVL72 与 MI325X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · 8K/1K
H200 与 MI325X
Hopper · CDNA 3 · 8K/1K
H200 与 MI355X
Hopper · CDNA 4 · 8K/1K
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · 8K/1K
B200 与 GB200 NVL72
Blackwell · Blackwell · 8K/1K
B200 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
B200 与 H200
Blackwell · Hopper · 8K/1K
B300 与 GB200 NVL72
Blackwell · Blackwell · 8K/1K
B300 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
B300 与 H200
Blackwell · Hopper · 8K/1K
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
GB200 NVL72 与 H200
Blackwell · Hopper · 8K/1K
GB300 NVL72 与 H200
Blackwell · Hopper · 8K/1K
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
GLM 5.3 744B
在 GLM 5.3 744B 上共有 36 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI325X
Blackwell · CDNA 3 · AgentX
B200 与 MI355X
Blackwell · CDNA 4 · AgentX
B200 与 TPU7x
Blackwell · Ironwood · AgentX
B300 与 MI325X
Blackwell · CDNA 3 · AgentX
B300 与 MI355X
Blackwell · CDNA 4 · AgentX
B300 与 TPU7x
Blackwell · Ironwood · AgentX
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 与 TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 与 TPU7x
Blackwell · Ironwood · AgentX
H200 与 MI325X
Hopper · CDNA 3 · AgentX
H200 与 MI355X
Hopper · CDNA 4 · AgentX
H200 与 TPU7x
Hopper · Ironwood · AgentX
MI325X 与 TPU7x
CDNA 3 · Ironwood · AgentX
MI325X 与 Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI355X 与 TPU7x
CDNA 4 · Ironwood · AgentX
MI355X 与 Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
TPU7x 与 Vera Rubin NVL72
Ironwood · Vera Rubin · AgentX
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · AgentX
B200 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B200 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B200 与 H200
Blackwell · Hopper · AgentX
B200 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B300 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B300 与 H200
Blackwell · Hopper · AgentX
B300 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 与 H200
Blackwell · Hopper · AgentX
GB200 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 与 H200
Blackwell · Hopper · AgentX
GB300 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H200 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
MiniMax M3 428B
在 MiniMax M3 428B 上共有 45 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI300X
Blackwell · CDNA 3 · AgentX
B200 与 MI325X
Blackwell · CDNA 3 · AgentX
B200 与 MI355X
Blackwell · CDNA 4 · AgentX
B300 与 MI300X
Blackwell · CDNA 3 · AgentX
B300 与 MI325X
Blackwell · CDNA 3 · AgentX
B300 与 MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 与 MI300X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 与 MI300X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
H100 与 MI300X
Hopper · CDNA 3 · AgentX
H100 与 MI325X
Hopper · CDNA 3 · AgentX
H100 与 MI355X
Hopper · CDNA 4 · AgentX
H200 与 MI300X
Hopper · CDNA 3 · AgentX
H200 与 MI325X
Hopper · CDNA 3 · AgentX
H200 与 MI355X
Hopper · CDNA 4 · AgentX
MI300X 与 Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI325X 与 Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI355X 与 Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · AgentX
B200 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B200 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B200 与 H100
Blackwell · Hopper · AgentX
B200 与 H200
Blackwell · Hopper · AgentX
B200 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B300 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B300 与 H100
Blackwell · Hopper · AgentX
B300 与 H200
Blackwell · Hopper · AgentX
B300 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 与 H100
Blackwell · Hopper · AgentX
GB200 NVL72 与 H200
Blackwell · Hopper · AgentX
GB200 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 与 H100
Blackwell · Hopper · AgentX
GB300 NVL72 与 H200
Blackwell · Hopper · AgentX
GB300 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H100 与 H200
Hopper · Hopper · AgentX
H100 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
H200 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
MiniMax M3.1 Flash 428B
在 MiniMax M3.1 Flash 428B 上共有 28 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI355X
Blackwell · CDNA 4 · AgentX
B300 与 MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
H100 与 MI355X
Hopper · CDNA 4 · AgentX
H200 与 MI355X
Hopper · CDNA 4 · AgentX
MI355X 与 Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · AgentX
B200 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B200 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B200 与 H100
Blackwell · Hopper · AgentX
B200 与 H200
Blackwell · Hopper · AgentX
B200 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B300 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B300 与 H100
Blackwell · Hopper · AgentX
B300 与 H200
Blackwell · Hopper · AgentX
B300 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 与 H100
Blackwell · Hopper · AgentX
GB200 NVL72 与 H200
Blackwell · Hopper · AgentX
GB200 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 与 H100
Blackwell · Hopper · AgentX
GB300 NVL72 与 H200
Blackwell · Hopper · AgentX
GB300 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H100 与 H200
Hopper · Hopper · AgentX
H100 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
H200 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
MiniMax M2.5/M2.7
在 MiniMax M2.5/M2.7 上共有 36 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI300X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI355X
Blackwell · CDNA 4 · 8K/1K
B300 与 MI300X
Blackwell · CDNA 3 · 8K/1K
B300 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B300 与 MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 与 MI300X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · 8K/1K
GB300 NVL72 与 MI300X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 与 MI325X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · 8K/1K
H100 与 MI300X
Hopper · CDNA 3 · 8K/1K
H100 与 MI325X
Hopper · CDNA 3 · 8K/1K
H100 与 MI355X
Hopper · CDNA 4 · 8K/1K
H200 与 MI300X
Hopper · CDNA 3 · 8K/1K
H200 与 MI325X
Hopper · CDNA 3 · 8K/1K
H200 与 MI355X
Hopper · CDNA 4 · 8K/1K
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · 8K/1K
B200 与 GB200 NVL72
Blackwell · Blackwell · 8K/1K
B200 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
B200 与 H100
Blackwell · Hopper · 8K/1K
B200 与 H200
Blackwell · Hopper · 8K/1K
B300 与 GB200 NVL72
Blackwell · Blackwell · 8K/1K
B300 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
B300 与 H100
Blackwell · Hopper · 8K/1K
B300 与 H200
Blackwell · Hopper · 8K/1K
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · 8K/1K
GB200 NVL72 与 H100
Blackwell · Hopper · 8K/1K
GB200 NVL72 与 H200
Blackwell · Hopper · 8K/1K
GB300 NVL72 与 H100
Blackwell · Hopper · 8K/1K
GB300 NVL72 与 H200
Blackwell · Hopper · 8K/1K
H100 与 H200
Hopper · Hopper · 8K/1K
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
Qwen 3.8 Flash Next 176B-A6B
在 Qwen 3.8 Flash Next 176B-A6B 上共有 28 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI355X
Blackwell · CDNA 4 · AgentX
B200 与 TPU7x
Blackwell · Ironwood · AgentX
B300 与 MI355X
Blackwell · CDNA 4 · AgentX
B300 与 TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 与 TPU7x
Blackwell · Ironwood · AgentX
H100 与 MI355X
Hopper · CDNA 4 · AgentX
H100 与 TPU7x
Hopper · Ironwood · AgentX
H200 与 MI355X
Hopper · CDNA 4 · AgentX
H200 与 TPU7x
Hopper · Ironwood · AgentX
MI355X 与 TPU7x
CDNA 4 · Ironwood · AgentX
MI355X 与 Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
TPU7x 与 Vera Rubin NVL72
Ironwood · Vera Rubin · AgentX
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · AgentX
B200 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B200 与 H100
Blackwell · Hopper · AgentX
B200 与 H200
Blackwell · Hopper · AgentX
B200 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B300 与 H100
Blackwell · Hopper · AgentX
B300 与 H200
Blackwell · Hopper · AgentX
B300 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 与 H100
Blackwell · Hopper · AgentX
GB300 NVL72 与 H200
Blackwell · Hopper · AgentX
GB300 NVL72 与 Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H100 与 H200
Hopper · Hopper · AgentX
H100 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
H200 与 Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
Qwen 3.5 397B-A17B
在 Qwen 3.5 397B-A17B 上共有 55 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI300X
Blackwell · CDNA 3 · AgentX
B200 与 MI325X
Blackwell · CDNA 3 · AgentX
B200 与 MI355X
Blackwell · CDNA 4 · AgentX
B200 与 TPU7x
Blackwell · Ironwood · AgentX
B300 与 MI300X
Blackwell · CDNA 3 · AgentX
B300 与 MI325X
Blackwell · CDNA 3 · AgentX
B300 与 MI355X
Blackwell · CDNA 4 · AgentX
B300 与 TPU7x
Blackwell · Ironwood · AgentX
GB200 NVL72 与 MI300X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 与 TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 与 MI300X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 与 MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 与 MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 与 TPU7x
Blackwell · Ironwood · AgentX
H100 与 MI300X
Hopper · CDNA 3 · AgentX
H100 与 MI325X
Hopper · CDNA 3 · AgentX
H100 与 MI355X
Hopper · CDNA 4 · AgentX
H100 与 TPU7x
Hopper · Ironwood · AgentX
H200 与 MI300X
Hopper · CDNA 3 · AgentX
H200 与 MI325X
Hopper · CDNA 3 · AgentX
H200 与 MI355X
Hopper · CDNA 4 · AgentX
H200 与 TPU7x
Hopper · Ironwood · AgentX
MI300X 与 RTX PRO 6000
CDNA 3 · Blackwell · AgentX
MI300X 与 TPU7x
CDNA 3 · Ironwood · AgentX
MI325X 与 RTX PRO 6000
CDNA 3 · Blackwell · AgentX
MI325X 与 TPU7x
CDNA 3 · Ironwood · AgentX
MI355X 与 RTX PRO 6000
CDNA 4 · Blackwell · AgentX
MI355X 与 TPU7x
CDNA 4 · Ironwood · AgentX
RTX PRO 6000 与 TPU7x
Blackwell · Ironwood · AgentX
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
B200 与 B300
Blackwell · Blackwell · AgentX
B200 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B200 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B200 与 H100
Blackwell · Hopper · AgentX
B200 与 H200
Blackwell · Hopper · AgentX
B200 与 RTX PRO 6000
Blackwell · Blackwell · AgentX
B300 与 GB200 NVL72
Blackwell · Blackwell · AgentX
B300 与 GB300 NVL72
Blackwell · Blackwell · AgentX
B300 与 H100
Blackwell · Hopper · AgentX
B300 与 H200
Blackwell · Hopper · AgentX
B300 与 RTX PRO 6000
Blackwell · Blackwell · AgentX
GB200 NVL72 与 GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 与 H100
Blackwell · Hopper · AgentX
GB200 NVL72 与 H200
Blackwell · Hopper · AgentX
GB200 NVL72 与 RTX PRO 6000
Blackwell · Blackwell · AgentX
GB300 NVL72 与 H100
Blackwell · Hopper · AgentX
GB300 NVL72 与 H200
Blackwell · Hopper · AgentX
GB300 NVL72 与 RTX PRO 6000
Blackwell · Blackwell · AgentX
H100 与 H200
Hopper · Hopper · AgentX
H100 与 RTX PRO 6000
Hopper · Blackwell · AgentX
H200 与 RTX PRO 6000
Hopper · Blackwell · AgentX
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
gpt-oss 120B
在 gpt-oss 120B 上共有 28 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
B200 与 MI300X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 与 Jalapeño
Blackwell · Jalapeño · 8K/1K
GB200 NVL72 与 MI300X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 与 MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 与 MI355X
Blackwell · CDNA 4 · 8K/1K
H100 与 Jalapeño
Hopper · Jalapeño · 8K/1K
H100 与 MI300X
Hopper · CDNA 3 · 8K/1K
H100 与 MI325X
Hopper · CDNA 3 · 8K/1K
H100 与 MI355X
Hopper · CDNA 4 · 8K/1K
H200 与 Jalapeño
Hopper · Jalapeño · 8K/1K
H200 与 MI300X
Hopper · CDNA 3 · 8K/1K
H200 与 MI325X
Hopper · CDNA 3 · 8K/1K
H200 与 MI355X
Hopper · CDNA 4 · 8K/1K
Jalapeño 与 MI300X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño 与 MI325X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño 与 MI355X
Jalapeño · CDNA 4 · 8K/1K
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比
Llama 3.3 70B
在 Llama 3.3 70B 上共有 15 组芯片对比,均有每 token 成本基准测试数据
NVIDIA 与 AMD
跨厂商的不同架构代际每 token 成本对比
B200 与 MI300X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI325X
Blackwell · CDNA 3 · 8K/1K
B200 与 MI355X
Blackwell · CDNA 4 · 8K/1K
H100 与 MI300X
Hopper · CDNA 3 · 8K/1K
H100 与 MI325X
Hopper · CDNA 3 · 8K/1K
H100 与 MI355X
Hopper · CDNA 4 · 8K/1K
H200 与 MI300X
Hopper · CDNA 3 · 8K/1K
H200 与 MI325X
Hopper · CDNA 3 · 8K/1K
H200 与 MI355X
Hopper · CDNA 4 · 8K/1K
NVIDIA 芯片对比
Hopper 与 Blackwell 代际每 token 成本对比
AMD 芯片对比
CDNA 3 与 CDNA 4 代际每 token 成本对比