基准指标
Warmup
也称为 warmup、warmup 阶段、缓存预热
先用大白话
性能采集开始前先做一轮预热，让系统进入稳态，而不是在缓存为空的状态下被打分。
技术定义
warmup 是性能采集窗口之前的阶段，基准测试在此期间预热缓存并进入稳态，该阶段的请求不计入上报结果。
工程细节
冷启动系统在两方面都不像生产环境：缓存是空的，而且所有会话都从第 0 轮开始会造成同步的突发流量，这在真实部署中并不存在。因此 AgentX 会让每个对话从其历史中一个按 seed 选定的位置开始，先回放重建该状态所需的请求，再让每条回放通道继续前进若干请求，然后才开始测量。
为什么重要
测量窗口从哪里开始会改变结果。把预热过程算进去，前缀复用会显得比生产环境更差；完全不做预热，依赖缓存的方案则会在一个它们在生产中根本不会遇到的状态下被打分。
如何在 InferenceX 中解读
AgentX 点详情视图会把两个阶段分开，便于分别查看遥测数据。warmup 请求的输出被限制为单个 token，因此它们的输出长度约为 1，交互性和 decode 曲线为空：单个 token 没有 token 间延迟。
参考资料