agentx-harness · 1.0.7

用 AgentX 测试自己的芯片

安装 agentx-harness，连接推理服务器，即可在自己的硬件上回放公开的智能体工作负载。

运行 AgentX

先启动兼容 OpenAI 的服务器，再修改下面的模型、URL 和并发会话数。需要 Python 3.11–3.13；16 个会话仅为示例。

运行 AgentX

pip install 'agentx-harness==1.0.7'

export HUGGINGFACE_MODEL_NAME="org/model"
export CONC_SESSIONS=16

agentx profile \
  --url "http://127.0.0.1:8000" --endpoint /v1/chat/completions \
  --model "$HUGGINGFACE_MODEL_NAME" --tokenizer "$HUGGINGFACE_MODEL_NAME" \
  --tokenizer-trust-remote-code \
  --concurrency "$CONC_SESSIONS" \
  --public-dataset "semianalysis_cc_traces_weka_062126" \
  --output-artifact-dir "output_dir_results"

服务器使用模型别名时，请修改 --model，并让 --tokenizer 仍指向匹配的 Hugging Face tokenizer。仅对可信仓库使用 --tokenizer-trust-remote-code。不需要自定义 tokenizer 代码时，请省略此选项。

可选路由 header

如果路由器需要会话 header，请在运行 AgentX 前导出这些变量。只有 Dynamo 选项会为子智能体发送父会话 ID。

可选路由 header

# Adds X-Dynamo-Session-ID; subagents also get X-Dynamo-Parent-Session-ID.
# Only this option sends the parent ID, preserving forked-agent lineage.
export AIPERF_HTTP_X_DYNAMO_SESSION_ID_FROM_CORRELATION_ID=true
# Also sends X-Session-ID, if a front-end router needs it.
export AIPERF_HTTP_X_SESSION_ID_FROM_CORRELATION_ID=true