Chip performance per dollar
557 head-to-head cost-per-million-tokens comparisons across Muse Spark 1.3/Open 816B, DeepSeek V4 Pro 0813 1.6T, DeepSeek V4.1 Flash 552B, DeepSeek R1, Kimi K3.1 Pro 2.8T, Kimi K3 2.8T, Kimi K2.5/K2.6/K2.7-Code 1T, GLM 5/5.1, GLM 5.3 744B, MiniMax M3 428B, MiniMax M3.1 Flash 428B, MiniMax M2.5/M2.7, Qwen 3.8 Flash Next 176B-A6B, Qwen 3.5 397B-A17B, gpt-oss 120B, and Llama 3.3 70B. Performance is normalized by owning-hyperscaler TCO. Each page renders the cost-per-token chart and an interpolated dollars-per-million table so you can pick the cheaper SKU at any target interactivity level.
Models with AgentX data open long-context, multi-turn trace replay results. Models not yet covered by AgentX open the controlled 8K/1K workload. Each pair lists its scenario.
Muse Spark 1.3/Open 816B
28 chip pairs with cost-per-token benchmark data on Muse Spark 1.3/Open 816B
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI355X
Blackwell · CDNA 4 · AgentX
B200 vs TPU7x
Blackwell · Ironwood · AgentX
B300 vs MI355X
Blackwell · CDNA 4 · AgentX
B300 vs TPU7x
Blackwell · Ironwood · AgentX
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 vs TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 vs TPU7x
Blackwell · Ironwood · AgentX
H200 vs MI355X
Hopper · CDNA 4 · AgentX
H200 vs TPU7x
Hopper · Ironwood · AgentX
MI355X vs TPU7x
CDNA 4 · Ironwood · AgentX
MI355X vs Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
TPU7x vs Vera Rubin NVL72
Ironwood · Vera Rubin · AgentX
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · AgentX
B200 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B200 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B200 vs H200
Blackwell · Hopper · AgentX
B200 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B300 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B300 vs H200
Blackwell · Hopper · AgentX
B300 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 vs H200
Blackwell · Hopper · AgentX
GB200 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 vs H200
Blackwell · Hopper · AgentX
GB300 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H200 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
DeepSeek V4 Pro 0813 1.6T
36 chip pairs with cost-per-token benchmark data on DeepSeek V4 Pro 0813 1.6T
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI300X
Blackwell · CDNA 3 · AgentX
B200 vs MI325X
Blackwell · CDNA 3 · AgentX
B200 vs MI355X
Blackwell · CDNA 4 · AgentX
B300 vs MI300X
Blackwell · CDNA 3 · AgentX
B300 vs MI325X
Blackwell · CDNA 3 · AgentX
B300 vs MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 vs MI300X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 vs MI300X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
H200 vs MI300X
Hopper · CDNA 3 · AgentX
H200 vs MI325X
Hopper · CDNA 3 · AgentX
H200 vs MI355X
Hopper · CDNA 4 · AgentX
MI300X vs Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI325X vs Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI355X vs Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · AgentX
B200 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B200 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B200 vs H200
Blackwell · Hopper · AgentX
B200 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B300 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B300 vs H200
Blackwell · Hopper · AgentX
B300 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 vs H200
Blackwell · Hopper · AgentX
GB200 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 vs H200
Blackwell · Hopper · AgentX
GB300 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H200 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
DeepSeek V4.1 Flash 552B
36 chip pairs with cost-per-token benchmark data on DeepSeek V4.1 Flash 552B
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI300X
Blackwell · CDNA 3 · AgentX
B200 vs MI325X
Blackwell · CDNA 3 · AgentX
B200 vs MI355X
Blackwell · CDNA 4 · AgentX
B300 vs MI300X
Blackwell · CDNA 3 · AgentX
B300 vs MI325X
Blackwell · CDNA 3 · AgentX
B300 vs MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 vs MI300X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 vs MI300X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
H100 vs MI300X
Hopper · CDNA 3 · AgentX
H100 vs MI325X
Hopper · CDNA 3 · AgentX
H100 vs MI355X
Hopper · CDNA 4 · AgentX
H200 vs MI300X
Hopper · CDNA 3 · AgentX
H200 vs MI325X
Hopper · CDNA 3 · AgentX
H200 vs MI355X
Hopper · CDNA 4 · AgentX
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · AgentX
B200 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B200 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B200 vs H100
Blackwell · Hopper · AgentX
B200 vs H200
Blackwell · Hopper · AgentX
B300 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B300 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B300 vs H100
Blackwell · Hopper · AgentX
B300 vs H200
Blackwell · Hopper · AgentX
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 vs H100
Blackwell · Hopper · AgentX
GB200 NVL72 vs H200
Blackwell · Hopper · AgentX
GB300 NVL72 vs H100
Blackwell · Hopper · AgentX
GB300 NVL72 vs H200
Blackwell · Hopper · AgentX
H100 vs H200
Hopper · Hopper · AgentX
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
DeepSeek R1
55 chip pairs with cost-per-token benchmark data on DeepSeek R1
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
B200 vs MI300X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI355X
Blackwell · CDNA 4 · 8K/1K
B300 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
B300 vs MI300X
Blackwell · CDNA 3 · 8K/1K
B300 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B300 vs MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
GB200 NVL72 vs MI300X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · 8K/1K
GB300 NVL72 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
GB300 NVL72 vs MI300X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 vs MI325X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · 8K/1K
H100 vs Jalapeño
Hopper · Jalapeño · 8K/1K
H100 vs MI300X
Hopper · CDNA 3 · 8K/1K
H100 vs MI325X
Hopper · CDNA 3 · 8K/1K
H100 vs MI355X
Hopper · CDNA 4 · 8K/1K
H200 vs Jalapeño
Hopper · Jalapeño · 8K/1K
H200 vs MI300X
Hopper · CDNA 3 · 8K/1K
H200 vs MI325X
Hopper · CDNA 3 · 8K/1K
H200 vs MI355X
Hopper · CDNA 4 · 8K/1K
Jalapeño vs MI300X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño vs MI325X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño vs MI355X
Jalapeño · CDNA 4 · 8K/1K
Jalapeño vs Vera Rubin NVL72
Jalapeño · Vera Rubin · 8K/1K
MI300X vs Vera Rubin NVL72
CDNA 3 · Vera Rubin · 8K/1K
MI325X vs Vera Rubin NVL72
CDNA 3 · Vera Rubin · 8K/1K
MI355X vs Vera Rubin NVL72
CDNA 4 · Vera Rubin · 8K/1K
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · 8K/1K
B200 vs GB200 NVL72
Blackwell · Blackwell · 8K/1K
B200 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
B200 vs H100
Blackwell · Hopper · 8K/1K
B200 vs H200
Blackwell · Hopper · 8K/1K
B200 vs Vera Rubin NVL72
Blackwell · Vera Rubin · 8K/1K
B300 vs GB200 NVL72
Blackwell · Blackwell · 8K/1K
B300 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
B300 vs H100
Blackwell · Hopper · 8K/1K
B300 vs H200
Blackwell · Hopper · 8K/1K
B300 vs Vera Rubin NVL72
Blackwell · Vera Rubin · 8K/1K
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
GB200 NVL72 vs H100
Blackwell · Hopper · 8K/1K
GB200 NVL72 vs H200
Blackwell · Hopper · 8K/1K
GB200 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · 8K/1K
GB300 NVL72 vs H100
Blackwell · Hopper · 8K/1K
GB300 NVL72 vs H200
Blackwell · Hopper · 8K/1K
GB300 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · 8K/1K
H100 vs H200
Hopper · Hopper · 8K/1K
H100 vs Vera Rubin NVL72
Hopper · Vera Rubin · 8K/1K
H200 vs Vera Rubin NVL72
Hopper · Vera Rubin · 8K/1K
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
Kimi K3.1 Pro 2.8T
10 chip pairs with cost-per-token benchmark data on Kimi K3.1 Pro 2.8T
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
Kimi K3 2.8T
28 chip pairs with cost-per-token benchmark data on Kimi K3 2.8T
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI355X
Blackwell · CDNA 4 · AgentX
B200 vs TPU7x
Blackwell · Ironwood · AgentX
B300 vs MI355X
Blackwell · CDNA 4 · AgentX
B300 vs TPU7x
Blackwell · Ironwood · AgentX
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 vs TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 vs TPU7x
Blackwell · Ironwood · AgentX
H200 vs MI355X
Hopper · CDNA 4 · AgentX
H200 vs TPU7x
Hopper · Ironwood · AgentX
MI355X vs TPU7x
CDNA 4 · Ironwood · AgentX
MI355X vs Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
TPU7x vs Vera Rubin NVL72
Ironwood · Vera Rubin · AgentX
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · AgentX
B200 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B200 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B200 vs H200
Blackwell · Hopper · AgentX
B200 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B300 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B300 vs H200
Blackwell · Hopper · AgentX
B300 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 vs H200
Blackwell · Hopper · AgentX
GB200 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 vs H200
Blackwell · Hopper · AgentX
GB300 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H200 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
Kimi K2.5/K2.6/K2.7-Code 1T
36 chip pairs with cost-per-token benchmark data on Kimi K2.5/K2.6/K2.7-Code 1T
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
B200 vs MI300X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI355X
Blackwell · CDNA 4 · 8K/1K
B300 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
B300 vs MI300X
Blackwell · CDNA 3 · 8K/1K
B300 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B300 vs MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
GB200 NVL72 vs MI300X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · 8K/1K
GB300 NVL72 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
GB300 NVL72 vs MI300X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 vs MI325X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · 8K/1K
H200 vs Jalapeño
Hopper · Jalapeño · 8K/1K
H200 vs MI300X
Hopper · CDNA 3 · 8K/1K
H200 vs MI325X
Hopper · CDNA 3 · 8K/1K
H200 vs MI355X
Hopper · CDNA 4 · 8K/1K
Jalapeño vs MI300X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño vs MI325X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño vs MI355X
Jalapeño · CDNA 4 · 8K/1K
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · 8K/1K
B200 vs GB200 NVL72
Blackwell · Blackwell · 8K/1K
B200 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
B200 vs H200
Blackwell · Hopper · 8K/1K
B300 vs GB200 NVL72
Blackwell · Blackwell · 8K/1K
B300 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
B300 vs H200
Blackwell · Hopper · 8K/1K
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
GB200 NVL72 vs H200
Blackwell · Hopper · 8K/1K
GB300 NVL72 vs H200
Blackwell · Hopper · 8K/1K
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
GLM 5/5.1
21 chip pairs with cost-per-token benchmark data on GLM 5/5.1
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI355X
Blackwell · CDNA 4 · 8K/1K
B300 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B300 vs MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · 8K/1K
GB300 NVL72 vs MI325X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · 8K/1K
H200 vs MI325X
Hopper · CDNA 3 · 8K/1K
H200 vs MI355X
Hopper · CDNA 4 · 8K/1K
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · 8K/1K
B200 vs GB200 NVL72
Blackwell · Blackwell · 8K/1K
B200 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
B200 vs H200
Blackwell · Hopper · 8K/1K
B300 vs GB200 NVL72
Blackwell · Blackwell · 8K/1K
B300 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
B300 vs H200
Blackwell · Hopper · 8K/1K
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
GB200 NVL72 vs H200
Blackwell · Hopper · 8K/1K
GB300 NVL72 vs H200
Blackwell · Hopper · 8K/1K
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
GLM 5.3 744B
36 chip pairs with cost-per-token benchmark data on GLM 5.3 744B
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI325X
Blackwell · CDNA 3 · AgentX
B200 vs MI355X
Blackwell · CDNA 4 · AgentX
B200 vs TPU7x
Blackwell · Ironwood · AgentX
B300 vs MI325X
Blackwell · CDNA 3 · AgentX
B300 vs MI355X
Blackwell · CDNA 4 · AgentX
B300 vs TPU7x
Blackwell · Ironwood · AgentX
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 vs TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 vs TPU7x
Blackwell · Ironwood · AgentX
H200 vs MI325X
Hopper · CDNA 3 · AgentX
H200 vs MI355X
Hopper · CDNA 4 · AgentX
H200 vs TPU7x
Hopper · Ironwood · AgentX
MI325X vs TPU7x
CDNA 3 · Ironwood · AgentX
MI325X vs Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI355X vs TPU7x
CDNA 4 · Ironwood · AgentX
MI355X vs Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
TPU7x vs Vera Rubin NVL72
Ironwood · Vera Rubin · AgentX
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · AgentX
B200 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B200 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B200 vs H200
Blackwell · Hopper · AgentX
B200 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B300 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B300 vs H200
Blackwell · Hopper · AgentX
B300 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 vs H200
Blackwell · Hopper · AgentX
GB200 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 vs H200
Blackwell · Hopper · AgentX
GB300 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H200 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
MiniMax M3 428B
45 chip pairs with cost-per-token benchmark data on MiniMax M3 428B
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI300X
Blackwell · CDNA 3 · AgentX
B200 vs MI325X
Blackwell · CDNA 3 · AgentX
B200 vs MI355X
Blackwell · CDNA 4 · AgentX
B300 vs MI300X
Blackwell · CDNA 3 · AgentX
B300 vs MI325X
Blackwell · CDNA 3 · AgentX
B300 vs MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 vs MI300X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 vs MI300X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
H100 vs MI300X
Hopper · CDNA 3 · AgentX
H100 vs MI325X
Hopper · CDNA 3 · AgentX
H100 vs MI355X
Hopper · CDNA 4 · AgentX
H200 vs MI300X
Hopper · CDNA 3 · AgentX
H200 vs MI325X
Hopper · CDNA 3 · AgentX
H200 vs MI355X
Hopper · CDNA 4 · AgentX
MI300X vs Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI325X vs Vera Rubin NVL72
CDNA 3 · Vera Rubin · AgentX
MI355X vs Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · AgentX
B200 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B200 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B200 vs H100
Blackwell · Hopper · AgentX
B200 vs H200
Blackwell · Hopper · AgentX
B200 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B300 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B300 vs H100
Blackwell · Hopper · AgentX
B300 vs H200
Blackwell · Hopper · AgentX
B300 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 vs H100
Blackwell · Hopper · AgentX
GB200 NVL72 vs H200
Blackwell · Hopper · AgentX
GB200 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 vs H100
Blackwell · Hopper · AgentX
GB300 NVL72 vs H200
Blackwell · Hopper · AgentX
GB300 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H100 vs H200
Hopper · Hopper · AgentX
H100 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
H200 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
MiniMax M3.1 Flash 428B
28 chip pairs with cost-per-token benchmark data on MiniMax M3.1 Flash 428B
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI355X
Blackwell · CDNA 4 · AgentX
B300 vs MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
H100 vs MI355X
Hopper · CDNA 4 · AgentX
H200 vs MI355X
Hopper · CDNA 4 · AgentX
MI355X vs Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · AgentX
B200 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B200 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B200 vs H100
Blackwell · Hopper · AgentX
B200 vs H200
Blackwell · Hopper · AgentX
B200 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B300 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B300 vs H100
Blackwell · Hopper · AgentX
B300 vs H200
Blackwell · Hopper · AgentX
B300 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 vs H100
Blackwell · Hopper · AgentX
GB200 NVL72 vs H200
Blackwell · Hopper · AgentX
GB200 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 vs H100
Blackwell · Hopper · AgentX
GB300 NVL72 vs H200
Blackwell · Hopper · AgentX
GB300 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H100 vs H200
Hopper · Hopper · AgentX
H100 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
H200 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
MiniMax M2.5/M2.7
36 chip pairs with cost-per-token benchmark data on MiniMax M2.5/M2.7
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI300X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI355X
Blackwell · CDNA 4 · 8K/1K
B300 vs MI300X
Blackwell · CDNA 3 · 8K/1K
B300 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B300 vs MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 vs MI300X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · 8K/1K
GB300 NVL72 vs MI300X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 vs MI325X
Blackwell · CDNA 3 · 8K/1K
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · 8K/1K
H100 vs MI300X
Hopper · CDNA 3 · 8K/1K
H100 vs MI325X
Hopper · CDNA 3 · 8K/1K
H100 vs MI355X
Hopper · CDNA 4 · 8K/1K
H200 vs MI300X
Hopper · CDNA 3 · 8K/1K
H200 vs MI325X
Hopper · CDNA 3 · 8K/1K
H200 vs MI355X
Hopper · CDNA 4 · 8K/1K
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · 8K/1K
B200 vs GB200 NVL72
Blackwell · Blackwell · 8K/1K
B200 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
B200 vs H100
Blackwell · Hopper · 8K/1K
B200 vs H200
Blackwell · Hopper · 8K/1K
B300 vs GB200 NVL72
Blackwell · Blackwell · 8K/1K
B300 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
B300 vs H100
Blackwell · Hopper · 8K/1K
B300 vs H200
Blackwell · Hopper · 8K/1K
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · 8K/1K
GB200 NVL72 vs H100
Blackwell · Hopper · 8K/1K
GB200 NVL72 vs H200
Blackwell · Hopper · 8K/1K
GB300 NVL72 vs H100
Blackwell · Hopper · 8K/1K
GB300 NVL72 vs H200
Blackwell · Hopper · 8K/1K
H100 vs H200
Hopper · Hopper · 8K/1K
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
Qwen 3.8 Flash Next 176B-A6B
28 chip pairs with cost-per-token benchmark data on Qwen 3.8 Flash Next 176B-A6B
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI355X
Blackwell · CDNA 4 · AgentX
B200 vs TPU7x
Blackwell · Ironwood · AgentX
B300 vs MI355X
Blackwell · CDNA 4 · AgentX
B300 vs TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 vs TPU7x
Blackwell · Ironwood · AgentX
H100 vs MI355X
Hopper · CDNA 4 · AgentX
H100 vs TPU7x
Hopper · Ironwood · AgentX
H200 vs MI355X
Hopper · CDNA 4 · AgentX
H200 vs TPU7x
Hopper · Ironwood · AgentX
MI355X vs TPU7x
CDNA 4 · Ironwood · AgentX
MI355X vs Vera Rubin NVL72
CDNA 4 · Vera Rubin · AgentX
TPU7x vs Vera Rubin NVL72
Ironwood · Vera Rubin · AgentX
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · AgentX
B200 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B200 vs H100
Blackwell · Hopper · AgentX
B200 vs H200
Blackwell · Hopper · AgentX
B200 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
B300 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B300 vs H100
Blackwell · Hopper · AgentX
B300 vs H200
Blackwell · Hopper · AgentX
B300 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
GB300 NVL72 vs H100
Blackwell · Hopper · AgentX
GB300 NVL72 vs H200
Blackwell · Hopper · AgentX
GB300 NVL72 vs Vera Rubin NVL72
Blackwell · Vera Rubin · AgentX
H100 vs H200
Hopper · Hopper · AgentX
H100 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
H200 vs Vera Rubin NVL72
Hopper · Vera Rubin · AgentX
Qwen 3.5 397B-A17B
55 chip pairs with cost-per-token benchmark data on Qwen 3.5 397B-A17B
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI300X
Blackwell · CDNA 3 · AgentX
B200 vs MI325X
Blackwell · CDNA 3 · AgentX
B200 vs MI355X
Blackwell · CDNA 4 · AgentX
B200 vs TPU7x
Blackwell · Ironwood · AgentX
B300 vs MI300X
Blackwell · CDNA 3 · AgentX
B300 vs MI325X
Blackwell · CDNA 3 · AgentX
B300 vs MI355X
Blackwell · CDNA 4 · AgentX
B300 vs TPU7x
Blackwell · Ironwood · AgentX
GB200 NVL72 vs MI300X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB200 NVL72 vs TPU7x
Blackwell · Ironwood · AgentX
GB300 NVL72 vs MI300X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 vs MI325X
Blackwell · CDNA 3 · AgentX
GB300 NVL72 vs MI355X
Blackwell · CDNA 4 · AgentX
GB300 NVL72 vs TPU7x
Blackwell · Ironwood · AgentX
H100 vs MI300X
Hopper · CDNA 3 · AgentX
H100 vs MI325X
Hopper · CDNA 3 · AgentX
H100 vs MI355X
Hopper · CDNA 4 · AgentX
H100 vs TPU7x
Hopper · Ironwood · AgentX
H200 vs MI300X
Hopper · CDNA 3 · AgentX
H200 vs MI325X
Hopper · CDNA 3 · AgentX
H200 vs MI355X
Hopper · CDNA 4 · AgentX
H200 vs TPU7x
Hopper · Ironwood · AgentX
MI300X vs RTX PRO 6000
CDNA 3 · Blackwell · AgentX
MI300X vs TPU7x
CDNA 3 · Ironwood · AgentX
MI325X vs RTX PRO 6000
CDNA 3 · Blackwell · AgentX
MI325X vs TPU7x
CDNA 3 · Ironwood · AgentX
MI355X vs RTX PRO 6000
CDNA 4 · Blackwell · AgentX
MI355X vs TPU7x
CDNA 4 · Ironwood · AgentX
RTX PRO 6000 vs TPU7x
Blackwell · Ironwood · AgentX
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
B200 vs B300
Blackwell · Blackwell · AgentX
B200 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B200 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B200 vs H100
Blackwell · Hopper · AgentX
B200 vs H200
Blackwell · Hopper · AgentX
B200 vs RTX PRO 6000
Blackwell · Blackwell · AgentX
B300 vs GB200 NVL72
Blackwell · Blackwell · AgentX
B300 vs GB300 NVL72
Blackwell · Blackwell · AgentX
B300 vs H100
Blackwell · Hopper · AgentX
B300 vs H200
Blackwell · Hopper · AgentX
B300 vs RTX PRO 6000
Blackwell · Blackwell · AgentX
GB200 NVL72 vs GB300 NVL72
Blackwell · Blackwell · AgentX
GB200 NVL72 vs H100
Blackwell · Hopper · AgentX
GB200 NVL72 vs H200
Blackwell · Hopper · AgentX
GB200 NVL72 vs RTX PRO 6000
Blackwell · Blackwell · AgentX
GB300 NVL72 vs H100
Blackwell · Hopper · AgentX
GB300 NVL72 vs H200
Blackwell · Hopper · AgentX
GB300 NVL72 vs RTX PRO 6000
Blackwell · Blackwell · AgentX
H100 vs H200
Hopper · Hopper · AgentX
H100 vs RTX PRO 6000
Hopper · Blackwell · AgentX
H200 vs RTX PRO 6000
Hopper · Blackwell · AgentX
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
gpt-oss 120B
28 chip pairs with cost-per-token benchmark data on gpt-oss 120B
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
B200 vs MI300X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI355X
Blackwell · CDNA 4 · 8K/1K
GB200 NVL72 vs Jalapeño
Blackwell · Jalapeño · 8K/1K
GB200 NVL72 vs MI300X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 vs MI325X
Blackwell · CDNA 3 · 8K/1K
GB200 NVL72 vs MI355X
Blackwell · CDNA 4 · 8K/1K
H100 vs Jalapeño
Hopper · Jalapeño · 8K/1K
H100 vs MI300X
Hopper · CDNA 3 · 8K/1K
H100 vs MI325X
Hopper · CDNA 3 · 8K/1K
H100 vs MI355X
Hopper · CDNA 4 · 8K/1K
H200 vs Jalapeño
Hopper · Jalapeño · 8K/1K
H200 vs MI300X
Hopper · CDNA 3 · 8K/1K
H200 vs MI325X
Hopper · CDNA 3 · 8K/1K
H200 vs MI355X
Hopper · CDNA 4 · 8K/1K
Jalapeño vs MI300X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño vs MI325X
Jalapeño · CDNA 3 · 8K/1K
Jalapeño vs MI355X
Jalapeño · CDNA 4 · 8K/1K
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons
Llama 3.3 70B
15 chip pairs with cost-per-token benchmark data on Llama 3.3 70B
NVIDIA vs AMD
Cross-vendor cost-per-token comparisons across architecture generations
B200 vs MI300X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI325X
Blackwell · CDNA 3 · 8K/1K
B200 vs MI355X
Blackwell · CDNA 4 · 8K/1K
H100 vs MI300X
Hopper · CDNA 3 · 8K/1K
H100 vs MI325X
Hopper · CDNA 3 · 8K/1K
H100 vs MI355X
Hopper · CDNA 4 · 8K/1K
H200 vs MI300X
Hopper · CDNA 3 · 8K/1K
H200 vs MI325X
Hopper · CDNA 3 · 8K/1K
H200 vs MI355X
Hopper · CDNA 4 · 8K/1K
NVIDIA vs NVIDIA
Hopper and Blackwell generation cost-per-token comparisons
AMD vs AMD
CDNA 3 and CDNA 4 generation cost-per-token comparisons