智能体推理
轨迹回放
也称为 trace replay、工作负载回放、会话回放
先用大白话
轨迹回放重现已记录会话的请求大小、先后关系与时间间隔,让基准测试按照原始工作负载的节奏发送请求。
技术定义
轨迹回放是一种基准测试方法,它把记录下来的请求关系、长度和时间信息转化为可重复运行的系统工作负载。
工程细节
回放可以保留由主 agent 轮次、并行 subagent 分支和辅助请求组成的有向图。确定性合成 token 会替换私有内容,同时保留 token 数量与前缀关系。轮次间记录的停顿则重现 agent 使用工具或等待依赖项的时间。
为什么重要
这种方法能够表达独立提示词列表缺少的流量特征,也能使用相同会话形状重复比较不同软硬件。AgentX 会在公开回放数据前移除源会话内容。
如何在 InferenceX 中解读
AgentX 通过 AIPerf 回放由轨迹衍生的会话。固定 seed 决定会话采样、起点和合成内容。对外结果只统计 cache warmup 后的 profiling 窗口,使多次运行聚焦于稳态服务表现。