AI 推理术语表

软件栈

SASS

先用大白话

研究已编译 kernel 实际执行内容时查看的 NVIDIA 架构专用机器指令。

技术定义

SASS 指用于查看已编译 NVIDIA GPU kernel 的架构专用机器指令表示。

工程细节

与虚拟 PTX 不同,它反映编译后的目标指令流。反汇编可以揭示高层源码中看不到的 load 路径、tensor 指令和调度细节。指令名称和编码因架构而异,出现某条指令本身并不能说明实际吞吐量。

为什么重要

检查生成代码有助于解释意外的性能差异,并验证编译器是否选择了预期路径。但它不能代替对依赖、资源争用和执行时间的实际测量。

如何在 InferenceX 中解读

Blackwell 文章区分 LDS 与通用 LD,并讨论 LDGSTS、UTMALDG 和 UBLKCP。结论针对所测指令和配置,不能推广到所有使用 shared memory 的 kernel。

在真实基准中理解这一概念

全部文章