基准指标
每吉瓦年收入
也称为 annual revenue per gigawatt、每 GW 收入、每吉瓦市电容量年 token 收入
先用大白话
这项估算计算在固定一吉瓦数据中心市电容量下,一年的 token 销售可能带来多少收入。
技术定义
每吉瓦年收入是将一年的建模 token 销售收入归一化到一吉瓦全口径市电容量后的指标。
常用单位
美元/市电吉瓦/年
工程细节
先在指定交互性目标下,用利用率假设把功率归一化吞吐量换算为全年可计费 token 数;再分别对缓存输入、未缓存输入和输出应用各自价格,最后合计收入。吉瓦表示功率额度,年度则提供时间维度。
为什么重要
该指标把服务效率与电力受限的商业模型联系起来。它不仅取决于实测吞吐量,还取决于需求、价格、token 构成和利用率;扣除成本及适用的许可费后,才能讨论利润。
如何在 InferenceX 中解读
Rubin 文章在 75 TPS、60% 利用率下展示年收入。每 GW 数值属于归一化估算,不能证明测试实际部署了一吉瓦设备,也不能证明预计 token 数已经售出。