AI 推理术语表
硬件TDP

热设计功耗

也称为 TDP、整卡功耗、全部包含功耗

先用大白话

TDP 是芯片设计上可持续消耗并以热量形式散发的功率,是每份加速器规格表上的标题瓦数。

技术定义

热设计功耗(TDP)是芯片被设计为可持续运行的最大功率包络,其散热系统必须能够持续把这些热量排出。

工程细节

现代加速器每颗芯片的功耗在千瓦上下甚至更高,整机柜系统乘上去就是十万瓦量级。只看 TDP 还会低估真实账单:内存、网络、CPU、电源转换损耗和散热开销都叠加在上面,因此每芯片的全部包含功耗明显高于芯片 TDP。数据中心容量按兆瓦出售,这些功率包络直接决定一个场地能容纳多少加速器。

为什么重要

电力已成为 AI 扩建的硬约束,在许多市场甚至排在资本之前。每芯片 TDP 的持续上升迫使行业转向液冷,也让每瓦性能与每美元性能一样,成为比较芯片世代的主要维度。

如何在 InferenceX 中解读

InferenceX 用包含散热和基础设施开销的每芯片全部包含功耗来计算每 token 能耗和每兆瓦 token 数,PowerX 工作流正把这些指标从铭牌数值推向运行中的实测功耗。