芯片每美元性能

共 352 组每百万 token 成本对比，涵盖 DeepSeekv4 Pro 0813 1.6T、DeepSeek V4.1 Flash 552B、DeepSeek R1、Kimi K3 2.8T、Kimi K2.5/K2.6/K2.7-Code 1T、GLM 5/5.1、GLM 5.3 744B、MiniMax M3 428B、MiniMax M2.5/M2.7、Qwen 3.8 Flash Next 176B-A6B、Qwen 3.5 397B-A17B、gpt-oss 120B、Llama 3.3 70B。每美元性能采用 Hyperscaler 自有设备 TCO 口径。每个页面均展示每 token 成本图表，以及根据插值结果生成的每百万 token 成本（美元）对比表，可用于找出任一目标交互性下成本较低的 SKU。

已有 AgentX 数据的模型会默认展示长上下文、多轮 trace 回放结果；尚无 AgentX 数据的模型则默认展示受控的 8K/1K 工作负载。每张卡片都会标明测试场景。

芯片延迟与吞吐量对比量化精度对比（FP8 与 BF16 等）投机解码对比（启用 MTP 与关闭投机解码）

DeepSeekv4 Pro 0813 1.6T

在 DeepSeekv4 Pro 0813 1.6T 上共有 36 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI300X

Blackwell · CDNA 3

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI300X

Blackwell · CDNA 3

B300 与 MI325X

Blackwell · CDNA 3

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI300X

Blackwell · CDNA 3

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI300X

Blackwell · CDNA 3

GB300 NVL72 与 MI325X

Blackwell · CDNA 3

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H200 与 MI300X

Hopper · CDNA 3

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

MI300X 与 Vera Rubin NVL72

CDNA 3 · Vera Rubin

MI325X 与 Vera Rubin NVL72

CDNA 3 · Vera Rubin

MI355X 与 Vera Rubin NVL72

CDNA 4 · Vera Rubin

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H200

Blackwell · Hopper

B200 与 Vera Rubin NVL72

Blackwell · Vera Rubin

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H200

Blackwell · Hopper

B300 与 Vera Rubin NVL72

Blackwell · Vera Rubin

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H200

Blackwell · Hopper

GB200 NVL72 与 Vera Rubin NVL72

Blackwell · Vera Rubin

GB300 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 Vera Rubin NVL72

Blackwell · Vera Rubin

H200 与 Vera Rubin NVL72

Hopper · Vera Rubin

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI300X 与 MI325X

CDNA 3 · CDNA 3

MI300X 与 MI355X

CDNA 3 · CDNA 4

MI325X 与 MI355X

CDNA 3 · CDNA 4

DeepSeek V4.1 Flash 552B

在 DeepSeek V4.1 Flash 552B 上共有 36 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI300X

Blackwell · CDNA 3

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI300X

Blackwell · CDNA 3

B300 与 MI325X

Blackwell · CDNA 3

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI300X

Blackwell · CDNA 3

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI300X

Blackwell · CDNA 3

GB300 NVL72 与 MI325X

Blackwell · CDNA 3

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H100 与 MI300X

Hopper · CDNA 3

H100 与 MI325X

Hopper · CDNA 3

H100 与 MI355X

Hopper · CDNA 4

H200 与 MI300X

Hopper · CDNA 3

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H100

Blackwell · Hopper

B200 与 H200

Blackwell · Hopper

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H100

Blackwell · Hopper

B300 与 H200

Blackwell · Hopper

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H100

Blackwell · Hopper

GB200 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 H100

Blackwell · Hopper

GB300 NVL72 与 H200

Blackwell · Hopper

H100 与 H200

Hopper · Hopper

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI300X 与 MI325X

CDNA 3 · CDNA 3

MI300X 与 MI355X

CDNA 3 · CDNA 4

MI325X 与 MI355X

CDNA 3 · CDNA 4

DeepSeek R1

在 DeepSeek R1 上共有 36 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI300X

Blackwell · CDNA 3

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI300X

Blackwell · CDNA 3

B300 与 MI325X

Blackwell · CDNA 3

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI300X

Blackwell · CDNA 3

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI300X

Blackwell · CDNA 3

GB300 NVL72 与 MI325X

Blackwell · CDNA 3

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H100 与 MI300X

Hopper · CDNA 3

H100 与 MI325X

Hopper · CDNA 3

H100 与 MI355X

Hopper · CDNA 4

H200 与 MI300X

Hopper · CDNA 3

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H100

Blackwell · Hopper

B200 与 H200

Blackwell · Hopper

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H100

Blackwell · Hopper

B300 与 H200

Blackwell · Hopper

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H100

Blackwell · Hopper

GB200 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 H100

Blackwell · Hopper

GB300 NVL72 与 H200

Blackwell · Hopper

H100 与 H200

Hopper · Hopper

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI300X 与 MI325X

CDNA 3 · CDNA 3

MI300X 与 MI355X

CDNA 3 · CDNA 4

MI325X 与 MI355X

CDNA 3 · CDNA 4

Kimi K3 2.8T

在 Kimi K3 2.8T 上共有 15 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H200

Blackwell · Hopper

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H200

Blackwell · Hopper

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 H200

Blackwell · Hopper

Kimi K2.5/K2.6/K2.7-Code 1T

在 Kimi K2.5/K2.6/K2.7-Code 1T 上共有 28 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI300X

Blackwell · CDNA 3

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI300X

Blackwell · CDNA 3

B300 与 MI325X

Blackwell · CDNA 3

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI300X

Blackwell · CDNA 3

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI300X

Blackwell · CDNA 3

GB300 NVL72 与 MI325X

Blackwell · CDNA 3

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H200 与 MI300X

Hopper · CDNA 3

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H200

Blackwell · Hopper

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H200

Blackwell · Hopper

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 H200

Blackwell · Hopper

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI300X 与 MI325X

CDNA 3 · CDNA 3

MI300X 与 MI355X

CDNA 3 · CDNA 4

MI325X 与 MI355X

CDNA 3 · CDNA 4

GLM 5/5.1

在 GLM 5/5.1 上共有 21 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI325X

Blackwell · CDNA 3

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI325X

Blackwell · CDNA 3

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H200

Blackwell · Hopper

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H200

Blackwell · Hopper

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 H200

Blackwell · Hopper

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI325X 与 MI355X

CDNA 3 · CDNA 4

GLM 5.3 744B

在 GLM 5.3 744B 上共有 21 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI325X

Blackwell · CDNA 3

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI325X

Blackwell · CDNA 3

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H200

Blackwell · Hopper

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H200

Blackwell · Hopper

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 H200

Blackwell · Hopper

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI325X 与 MI355X

CDNA 3 · CDNA 4

MiniMax M3 428B

在 MiniMax M3 428B 上共有 36 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI300X

Blackwell · CDNA 3

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI300X

Blackwell · CDNA 3

B300 与 MI325X

Blackwell · CDNA 3

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI300X

Blackwell · CDNA 3

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI300X

Blackwell · CDNA 3

GB300 NVL72 与 MI325X

Blackwell · CDNA 3

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H100 与 MI300X

Hopper · CDNA 3

H100 与 MI325X

Hopper · CDNA 3

H100 与 MI355X

Hopper · CDNA 4

H200 与 MI300X

Hopper · CDNA 3

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H100

Blackwell · Hopper

B200 与 H200

Blackwell · Hopper

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H100

Blackwell · Hopper

B300 与 H200

Blackwell · Hopper

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H100

Blackwell · Hopper

GB200 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 H100

Blackwell · Hopper

GB300 NVL72 与 H200

Blackwell · Hopper

H100 与 H200

Hopper · Hopper

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI300X 与 MI325X

CDNA 3 · CDNA 3

MI300X 与 MI355X

CDNA 3 · CDNA 4

MI325X 与 MI355X

CDNA 3 · CDNA 4

MiniMax M2.5/M2.7

在 MiniMax M2.5/M2.7 上共有 36 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI300X

Blackwell · CDNA 3

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI300X

Blackwell · CDNA 3

B300 与 MI325X

Blackwell · CDNA 3

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI300X

Blackwell · CDNA 3

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI300X

Blackwell · CDNA 3

GB300 NVL72 与 MI325X

Blackwell · CDNA 3

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H100 与 MI300X

Hopper · CDNA 3

H100 与 MI325X

Hopper · CDNA 3

H100 与 MI355X

Hopper · CDNA 4

H200 与 MI300X

Hopper · CDNA 3

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H100

Blackwell · Hopper

B200 与 H200

Blackwell · Hopper

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H100

Blackwell · Hopper

B300 与 H200

Blackwell · Hopper

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H100

Blackwell · Hopper

GB200 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 H100

Blackwell · Hopper

GB300 NVL72 与 H200

Blackwell · Hopper

H100 与 H200

Hopper · Hopper

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI300X 与 MI325X

CDNA 3 · CDNA 3

MI300X 与 MI355X

CDNA 3 · CDNA 4

MI325X 与 MI355X

CDNA 3 · CDNA 4

Qwen 3.8 Flash Next 176B-A6B

在 Qwen 3.8 Flash Next 176B-A6B 上共有 6 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 H100

Blackwell · Hopper

B200 与 H200

Blackwell · Hopper

B300 与 H100

Blackwell · Hopper

B300 与 H200

Blackwell · Hopper

H100 与 H200

Hopper · Hopper

Qwen 3.5 397B-A17B

在 Qwen 3.5 397B-A17B 上共有 45 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI300X

Blackwell · CDNA 3

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

B300 与 MI300X

Blackwell · CDNA 3

B300 与 MI325X

Blackwell · CDNA 3

B300 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI300X

Blackwell · CDNA 3

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

GB300 NVL72 与 MI300X

Blackwell · CDNA 3

GB300 NVL72 与 MI325X

Blackwell · CDNA 3

GB300 NVL72 与 MI355X

Blackwell · CDNA 4

H100 与 MI300X

Hopper · CDNA 3

H100 与 MI325X

Hopper · CDNA 3

H100 与 MI355X

Hopper · CDNA 4

H200 与 MI300X

Hopper · CDNA 3

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

MI300X 与 RTX PRO 6000

CDNA 3 · Blackwell

MI325X 与 RTX PRO 6000

CDNA 3 · Blackwell

MI355X 与 RTX PRO 6000

CDNA 4 · Blackwell

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 B300

Blackwell · Blackwell

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 GB300 NVL72

Blackwell · Blackwell

B200 与 H100

Blackwell · Hopper

B200 与 H200

Blackwell · Hopper

B200 与 RTX PRO 6000

Blackwell · Blackwell

B300 与 GB200 NVL72

Blackwell · Blackwell

B300 与 GB300 NVL72

Blackwell · Blackwell

B300 与 H100

Blackwell · Hopper

B300 与 H200

Blackwell · Hopper

B300 与 RTX PRO 6000

Blackwell · Blackwell

GB200 NVL72 与 GB300 NVL72

Blackwell · Blackwell

GB200 NVL72 与 H100

Blackwell · Hopper

GB200 NVL72 与 H200

Blackwell · Hopper

GB200 NVL72 与 RTX PRO 6000

Blackwell · Blackwell

GB300 NVL72 与 H100

Blackwell · Hopper

GB300 NVL72 与 H200

Blackwell · Hopper

GB300 NVL72 与 RTX PRO 6000

Blackwell · Blackwell

H100 与 H200

Hopper · Hopper

H100 与 RTX PRO 6000

Hopper · Blackwell

H200 与 RTX PRO 6000

Hopper · Blackwell

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI300X 与 MI325X

CDNA 3 · CDNA 3

MI300X 与 MI355X

CDNA 3 · CDNA 4

MI325X 与 MI355X

CDNA 3 · CDNA 4

gpt-oss 120B

在 gpt-oss 120B 上共有 21 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI300X

Blackwell · CDNA 3

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

GB200 NVL72 与 MI300X

Blackwell · CDNA 3

GB200 NVL72 与 MI325X

Blackwell · CDNA 3

GB200 NVL72 与 MI355X

Blackwell · CDNA 4

H100 与 MI300X

Hopper · CDNA 3

H100 与 MI325X

Hopper · CDNA 3

H100 与 MI355X

Hopper · CDNA 4

H200 与 MI300X

Hopper · CDNA 3

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 GB200 NVL72

Blackwell · Blackwell

B200 与 H100

Blackwell · Hopper

B200 与 H200

Blackwell · Hopper

GB200 NVL72 与 H100

Blackwell · Hopper

GB200 NVL72 与 H200

Blackwell · Hopper

H100 与 H200

Hopper · Hopper

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI300X 与 MI325X

CDNA 3 · CDNA 3

MI300X 与 MI355X

CDNA 3 · CDNA 4

MI325X 与 MI355X

CDNA 3 · CDNA 4

Llama 3.3 70B

在 Llama 3.3 70B 上共有 15 组芯片对比，均有每 token 成本基准测试数据。

NVIDIA 与 AMD

跨厂商的不同架构代际每 token 成本对比。

B200 与 MI300X

Blackwell · CDNA 3

B200 与 MI325X

Blackwell · CDNA 3

B200 与 MI355X

Blackwell · CDNA 4

H100 与 MI300X

Hopper · CDNA 3

H100 与 MI325X

Hopper · CDNA 3

H100 与 MI355X

Hopper · CDNA 4

H200 与 MI300X

Hopper · CDNA 3

H200 与 MI325X

Hopper · CDNA 3

H200 与 MI355X

Hopper · CDNA 4

NVIDIA 芯片对比

Hopper 与 Blackwell 代际每 token 成本对比。

B200 与 H100

Blackwell · Hopper

B200 与 H200

Blackwell · Hopper

H100 与 H200

Hopper · Hopper

AMD 芯片对比

CDNA 3 与 CDNA 4 代际每 token 成本对比。

MI300X 与 MI325X

CDNA 3 · CDNA 3

MI300X 与 MI355X

CDNA 3 · CDNA 4

MI325X 与 MI355X

CDNA 3 · CDNA 4