InferenceX
EN
·推理图表
加载 SKU 导航器……
加载数据点元信息……

输入序列长度分布

输出序列长度分布

交互性随时间变化

— 个数据点

TTFT 随时间变化

— 个数据点

KV cache 利用率随时间变化

请求队列深度

每个采样区间的 prefix cache 命中率

吞吐量（输入与解码）

累计提示 token 的来源构成

在途请求的去重输入 token 数