传统负载测试通常以固定请求速率发送互不相关的单轮 prompt。AgentX 则维持指定数量的完整会话树。根编码会话可以创建子会话、等待子会话结束，再继续执行。每一轮都会携带累计的消息历史，从而重现真实智能体系统中的长共享前缀与突发式 fan-out。

prompt 文本是合成的，但工作负载形态来自真实会话记录：输入与输出长度、前缀共享关系、子智能体拓扑以及轮次间时间间隔。这样既不会回放用户的私密内容，又保留了对调度器、路由器和 prefix cache 真正重要的特征。

该场景使用 SemiAnalysis 公开的 Weka 格式智能体编码轨迹语料。需要进行可复现比较时，应选择带日期的固定语料，而不是滚动更新的别名。_256k 变体会移除超过 256K token 范围的单个请求，更适合上下文窗口约为 256K 的服务器。

简短名称 semianalysis_cc_traces_weka 指向不含子智能体的旧版语料。若要测试 AgentX 的 fan-out 行为，请使用带日期的语料或 with_subagents 别名。

传入 --scenario inferencex-agentx-mvp 会选择智能体回放模式，并强制执行决定结果可比性的配置：

• 开启 streaming，以便测量首 token 延迟（TTFT）和 token 间延迟（ITL）。
• ignore_eos:true 要求服务器生成指定长度的输出，而不是提前停止。
• 保留原始轮次间延迟；仅将整个系统的全局空闲时间限制在 10 秒以内。
• first_turn_prefix cache busting 为每次回放的会话加入唯一首轮标记，避免虚假的跨会话 cache hit，同时保留会话内部的 cache 复用。
• 有效测试至少运行 900 秒，默认运行 1,800 秒。
• 正式测量前通过 warmup 建立深层 prefix。
• 每次运行都会使用 seed，并将其记录在产物中。

请根据部署情况替换 URL、模型、语料和 --concurrency 的值。AIPerf 会补齐场景默认值，并将结果写入 ./artifacts/。固定 --random-seed 可精确复现采样并复用重建后的数据集 cache；当模型名称无法解析为 Hugging Face tokenizer 时，请额外传入 --tokenizer。

aiperf profile \
  --scenario inferencex-agentx-mvp \
  --url http://localhost:8000 \
  --model YOUR_MODEL \
  --endpoint-type chat \
  --public-dataset semianalysis_cc_traces_weka_062126 \
  --concurrency 256

记录的工作负载由多轮消息数组表示，与 OpenAI 兼容的 chat-completions endpoint 自然匹配。Streaming 可以观测首 token 和 token 间时序；非 streaming 响应无法提供这些核心延迟指标。

--use-server-token-count 只改变指标统计方式。当本地 tokenizer 因版本差异或客户端不可见的 chat template 开销而与服务器不一致时，该 flag 会采用服务器返回的 usage 字段，不会改变 prompt 构造。

并发数表示同时存活的会话树数量，而不是正在处理的 HTTP 请求数。一个会话可能 fan-out 为多个子会话，因此瞬时请求并发数可以高于配置值。

该场景有意不提供请求速率控制。负载由活跃会话数、记录的思考时间和 fan-out 模式共同决定，因此 --concurrency 是主要的负载调节参数。

发送流量前，AIPerf 会下载语料，并将其重建为完成 token 化且带有 cache 结构的会话树。结果会存入采用内存映射的磁盘 cache。只要语料、tokenizer、重建配置、条目数量和 seed 相同，后续测试通常可以在数秒内恢复准备好的数据集。

冷启动时应同时提高两个配置阶段的超时时间。随后依次执行数据集配置、warmup、定时 profiling 和 drain/export。基准测试时长只涵盖 profiling 阶段，因此总耗时会更长。

export AIPERF_DATASET_CONFIGURATION_TIMEOUT=1800
export AIPERF_SERVICE_PROFILE_CONFIGURE_TIMEOUT=1800

有效测试不能短于 900 秒。低成本有效检查可以降低并发数，但仍需保留 900 秒下限。--num-dataset-entries 能减少重建工作量，但会改变工作负载，不应将这种结果用于正式比较或提交。

如需在几分钟内检查连通性，可使用 --unsafe-override 并缩短测试时长，同时接受 invalid 标记。保留完整语料并固定 seed，可让后续有效测试复用重建后的数据集 cache。

AIPerf 会将工作分配到多个 worker 进程，并每两秒上报 worker 健康状态。应将高 CPU 警告视为客户端饱和信号；在信任结果前，需要增加客户端 CPU 核心数或负载生成器主机。

--show-trace-timing 可以区分等待连接池中空闲连接的时间与等待服务器返回首字节的时间。worker 的 CPU 使用率正常且连接池阻塞很少，才有充分依据认为瓶颈位于服务器端。

客户端与服务器的 keep-alive 配置可能不一致。如果 AIPerf 保留空闲连接的时间比服务器更长，客户端可能复用已经关闭的 socket。应将客户端 keep-alive 设置为低于服务器值。该问题通常出现在 profiling 阶段，因为 warmup 连接的空闲时间较短。

export AIPERF_HTTP_KEEPALIVE_TIMEOUT=4

当路由器连接多个副本时，必须使用会话感知路由。如果同一会话的各轮落在不同 worker 上，prefix cache 复用会大幅下降，基准测试最终衡量的是路由分散程度，而不是服务栈的 cache 能力。

AIPerf 会为每个会话分配稳定的 correlation ID；子智能体则拥有各自的稳定 ID。这些配置改变请求落点而非请求内容，因此不会被场景锁定。

• 前缀感知路由根据消息历史匹配已缓存的前缀。SGLang Model Gateway 提供 cache_aware，Dynamo 通过 --router-mode kv 提供 KV-aware routing。
• Sticky routing 将 AIPerf correlation ID 映射到路由器 session header，可对接 SGLang 的 X-SMG-Routing-Key、Dynamo session header 和通用 X-Session-ID。

AgentX 会报告 TTFT、ITL、端到端延迟、输出吞吐量和错误率，同时提供 prefix cache 行为、上下文溢出、会话与子智能体执行、worker 饱和状态以及场景合规性。

比较测试前必须检查 submission_valid。上下文溢出率过高、测试被取消、使用 unsafe override 或其他场景违规，都可能使一个已经生成完整产物的测试失效。

• 让语料与服务器上下文窗口匹配；约 256K 的服务器优先使用 _256k 语料。
• 正式比较使用带日期的固定语料和固定 seed。
• 保持 cache busting 开启；关闭后，循环使用轨迹会夸大 cache-hit 结果。
• 保留记录的时序；压缩单条轨迹的延迟会改变 cache TTL 行为和会话重叠程度。
• 在判断结果受服务器限制前，先监控客户端 CPU 和连接池等待时间。
• 所有多副本部署都应使用会话感知路由。
• 不要解读合成 prompt 的语义；基准测试保留的是 token 与 cache 结构，而非文本含义。