AI 推理术语表

基准指标

指针追逐

也称为 pointer chasing

先用大白话

让每次 load 依赖上一次结果,以限制访问重叠并探测内存延迟。

技术定义

指针追逐沿一条地址链执行,每次读取的值决定下一次 load 的地址,从而形成串行内存依赖。

工程细节

当前 load 返回前,下一地址未知,因此测试限制了内存级并行。缓存驻留、地址分布、链长和并发流量仍会影响延迟。比较不同核心的延迟曲线,可以推测共享资源或拓扑关系。

为什么重要

延迟距离矩阵是间接证据,不是物理布局图。资源争用和地址映射也可能形成看似明确的分组,依赖 load 的延迟不能替代大量独立 load 下的持续带宽。

如何在 InferenceX 中解读

Huawei 与 Blackwell 文章都使用延迟探测推断资源关系。应区分观测到的耗时、推断的逻辑分组和对物理位置的猜测。

在真实基准中理解这一概念

全部文章