基准指标
草稿接受率
也称为 draft acceptance rate、acceptance rate、投机接受率、草稿接受比例
先用大白话
草稿接受率是通过验证的 token 占所提议 token 的比例,不是每次验证输出的 token 数。
技术定义
草稿接受率是指定样本中被接受的草稿 token 数除以所提议的草稿 token 总数。
计算关系
草稿接受率 = 被接受的草稿 token 数 / 所提议的草稿 token 数
工程细节
接受率是无量纲比例,通常写成百分比;接受长度则统计每次验证的 token 数。草稿长度固定且计数口径一致时,平均接受的草稿长度等于草稿长度乘以接受率。部分引擎会把目标模型额外生成的 token 计入长度,必须另行说明这一口径。
为什么重要
草稿长度不同时,相同接受率可以对应不同的接受 token 数。接受率和接受长度都不能单独决定加速比;草稿生成、验证成本、批处理方式以及被拒绝的工作同样重要。
如何在 InferenceX 中解读
AgentX 对合成回放使用外部校准的接受行为。比较两组数值前,应核对草稿长度、speculator、计数口径,以及采用强制接受设置还是自然验证结果。