AgentX|最新结果
真实智能体工作负载下的推理性能对比
比较不同硬件平台在长上下文、多轮智能体工作负载下的推理性能,覆盖 Google TPUv7 Ironwood、OpenAI Jalapeño、MI355X、GB300 NVL72、GB200 NVL72、B200、H200、H100 和 RTX Pro,即将支持 TPUv8i、SambaNova SN50、Rubin NVL72 与 MI455X UALoE72。
AgentX|最新结果
比较不同硬件平台在长上下文、多轮智能体工作负载下的推理性能,覆盖 Google TPUv7 Ironwood、OpenAI Jalapeño、MI355X、GB300 NVL72、GB200 NVL72、B200、H200、H100 和 RTX Pro,即将支持 TPUv8i、SambaNova SN50、Rubin NVL72 与 MI455X UALoE72。
对比目录
共 352 组推理基准测试对比,涵盖 DeepSeekv4 Pro 0813 1.6T、DeepSeek V4.1 Flash 552B、DeepSeek R1、Kimi K3 2.8T、Kimi K2.5/K2.6/K2.7-Code 1T、GLM 5/5.1、GLM 5.3 744B、MiniMax M3 428B、MiniMax M2.5/M2.7、Qwen 3.8 Flash Next 176B-A6B、Qwen 3.5 397B-A17B、gpt-oss 120B、Llama 3.3 70B。已有 AgentX 数据的模型会默认展示长上下文、多轮 trace 回放结果;尚无 AgentX 数据的模型则默认展示受控的 8K/1K 工作负载。每张卡片都会标明测试场景。
在 DeepSeekv4 Pro 0813 1.6T 上共有 36 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Hopper · CDNA 3
Hopper · CDNA 3
Hopper · CDNA 4
CDNA 3 · Vera Rubin
CDNA 3 · Vera Rubin
CDNA 4 · Vera Rubin
Hopper 与 Blackwell 代际对比。
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Vera Rubin
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Vera Rubin
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Vera Rubin
CDNA 3 与 CDNA 4 代际对比。
在 DeepSeek V4.1 Flash 552B 上共有 36 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
在 DeepSeek R1 上共有 36 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
在 Kimi K3 2.8T 上共有 15 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
在 Kimi K2.5/K2.6/K2.7-Code 1T 上共有 28 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
在 GLM 5/5.1 上共有 21 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 4
Hopper · CDNA 3
Hopper · CDNA 4
在 GLM 5.3 744B 上共有 21 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 4
Hopper · CDNA 3
Hopper · CDNA 4
在 MiniMax M3 428B 上共有 36 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
在 MiniMax M2.5/M2.7 上共有 36 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
在 Qwen 3.8 Flash Next 176B-A6B 上共有 6 组芯片对比,均有基准测试数据。
在 Qwen 3.5 397B-A17B 上共有 45 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
在 gpt-oss 120B 上共有 21 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Hopper · CDNA 3
Hopper · CDNA 3
Hopper · CDNA 4
Hopper · CDNA 3
在 Llama 3.3 70B 上共有 15 组芯片对比,均有基准测试数据。
跨厂商的不同架构代际对比。
Blackwell · CDNA 3
Blackwell · CDNA 3
Blackwell · CDNA 4
Hopper · CDNA 3
Hopper · CDNA 3
Hopper · CDNA 4
Hopper · CDNA 3
Hopper · CDNA 3
Hopper · CDNA 4
Hopper 与 Blackwell 代际对比。
Hopper 与 Blackwell 代际对比。
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Hopper
Hopper · Hopper
CDNA 3 与 CDNA 4 代际对比。
Hopper 与 Blackwell 代际对比。
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Hopper
Hopper · Hopper
CDNA 3 与 CDNA 4 代际对比。
Hopper 与 Blackwell 代际对比。
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
CDNA 3 与 CDNA 4 代际对比。
Hopper 与 Blackwell 代际对比。
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
CDNA 3 与 CDNA 4 代际对比。
Hopper 与 Blackwell 代际对比。
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
CDNA 3 与 CDNA 4 代际对比。
Hopper 与 Blackwell 代际对比。
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Hopper
Hopper · Hopper
CDNA 3 与 CDNA 4 代际对比。
Hopper 与 Blackwell 代际对比。
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Hopper
Hopper · Hopper
CDNA 3 与 CDNA 4 代际对比。
Hopper 与 Blackwell 代际对比。
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Blackwell · Hopper
Blackwell · Hopper
Blackwell · Blackwell
Hopper · Hopper
Hopper · Blackwell
Hopper · Blackwell
CDNA 3 与 CDNA 4 代际对比。
CDNA 3 与 CDNA 4 代际对比。
CDNA 3 与 CDNA 4 代际对比。