AI 推理术语表
硬件

市电功率预算

也称为 utility power budget、全口径市电功率、数据中心电力额度

先用大白话

市电功率预算是整个数据中心可用的供电容量,包含为服务器供电和制冷的配套设备。

技术定义

市电功率预算是在市电接入边界,为 IT 设备和配套基础设施配置的设施供电容量。

工程细节

加速器 TDP 描述组件级设计包络。设施预算还需容纳主机、网络、电力转换、制冷以及口径内的其他开销。在计算能部署多少硬件或提供多少 token 吞吐量之前,必须统一说明系统边界。

为什么重要

如果一个系统只计算芯片功耗,另一个却计算市电功耗,效率比值就会失真。配置容量与运行实测功耗回答的也是不同问题:前者描述部署额度,后者描述特定负载下的消耗。

如何在 InferenceX 中解读

Rubin 文章按市电 MW 归一化吞吐量,并按全口径市电 GW 归一化年度经济指标。DSX MaxLPS 部分讨论利用工作负载功耗画像,在该额度内增加硬件部署,而不是把 TDP 当作推理实测功耗。