每一块 GPU，每一秒，每一瓦

PowerX 测量每颗加速器在运行基准测试时的功耗，并对它周围的系统其余部分建模。实心标记是实测遥测，空心标记是开源功耗模型的建模值，虚线标记是标称或假设值。这套视觉语法在每张图表上都成立。

01从实测到建模功耗

• 采样。 NVIDIA 节点上的 dcgm-exporter 和 AMD 节点上的 device-metrics-exporter 每秒上报一次每颗 GPU 的功耗，头节点按同一时钟抓取所有节点。
• 开窗。 每个并发点只有一个服务窗口，从 warmup 结束到最后一个请求完成。只有窗口内的样本才计入统计。
• 积分。 每颗 GPU 的能量是其样本在窗口内的梯形积分；每 token 能量 = 整个部署的 GPU 能量 ÷ 客户端统计的 token 数。
• 建模。 power_model 包接收实测瓦特数和一个工作状态（固定序列、智能体、带 KV offload 的智能体），加上 CPU、内存、NIC、交换芯片、存储、风扇和 PSU 损耗得到 IT 功率，再乘以 PUE（风冷机箱 1.3，液冷 NVL72 机柜 1.1）得到数据中心功率。

02动手探索 PowerX

建模曲线位于实测曲线之上且形状相同，因为模型补上的部件几乎不随负载变化。

越低越好，两条线都是对交互性的 Pareto 前沿，与仪表板其他图表一致。

把 GPU 从空闲拉到 TDP，看哪些建模部件会跟着变。

风扇和 PSU 损耗跟随 GPU；CPU、内存、NIC 和交换芯片保持不变，所以 GPU 负载越轻，额外开销的相对占比越大。

03测试方法

平均、P75 和 P90 功耗在窗口内按时间加权，覆盖部署中的全部 GPU；prefill 和 decode 角色在同一窗口内分别求平均。做规划看 P90，因为动态功率调度对峰值敏感；比较芯片看每 token 能量。

只有离线验证器从原始样本重新执行并通过全部五项检查，数据点才标记为 Validated。其余都是 Historical：吞吐量保留，能量和建模功耗去掉，审计记录会写明未通过的检查。

功耗采集是每次官方 sweep 的一部分，提交的测试配置会自动被测量。要自行运行，在多节点 matrix 条目中加上 power: true；单节点和 AgentX 任务直接使用集群自带的 exporter。require-power（或 REQUIRE_POWER=1）会让窗口无效的任务直接失败，而不是记录 power_valid: 0。

kimik3-fp4-h200-dynamo-sglang:
  multinode: true
  scenarios:
    fixed-seq-len:
    - isl: 8192
      osl: 1024
      search-space:
      - num-nodes: 4
        srt-recipe: agg-tp16dp2ep32-latency.yaml
        power: true
        conc-list: [1, 2, 4, 8]

汇总 JSON 包含 power_valid、avg_power_w、p90_power_w 和各 joules_per_* 指标；power_audit_<result> 产物包含 samples.csv、窗口文件和 power_validation_<result>.json。

04应用结果

按容量规划的读法读一个通过校验的数据点：实测瓦特数、模型补上的 IT 瓦特数、每兆瓦可部署的 GPU 数，以及它与标称值之间的差距。

打开 PowerX，通过 API 获取同样的数字，或用 skills 包中的 inferencex powerx export 命令导出。

05常见问题