AI 推理术语表
硬件PUE

电源使用效率

也称为 PUE、power usage effectiveness、能源使用效率

先用大白话

PUE 衡量数据中心每向内部计算设备输送一瓦电,总共要消耗多少瓦。

技术定义

电源使用效率(PUE)是数据中心总功耗与 IT 设备功耗之比,1.0 意味着每一瓦都用于计算。

工程细节

制冷、电源转换和场地系统在服务器之外额外耗能。PUE 为 1.5 意味着每一瓦 IT 负载还要搭上半瓦开销,而现代超大规模 AI 设施借助液冷和高效配电把 PUE 压向 1.1 以下。AI 园区以数百兆瓦计,PUE 的微小差异就会摊出巨大的绝对能耗和成本。

为什么重要

PUE 把芯片级效率与场地经济性连接起来:芯片消耗的每一瓦在电表上都要乘以 PUE。当电力供给卡住 AI 扩建时,场地效率与芯片和软件一样进入竞争计算。

如何在 InferenceX 中解读

InferenceX 每 token 能耗和每兆瓦 token 数背后的全部包含功耗,已按现代 AI 数据中心的 PUE 水平计入场地开销,因此其成本与能耗比较反映的是落地的场地经济性而不是裸芯片瓦数。