AI 推理术语表

软件栈

PTX

先用大白话

NVIDIA 的虚拟指令语言,编译后成为特定 GPU 架构的机器指令。

技术定义

PTX 是 NVIDIA 编译工具链中的虚拟指令集表示,并非 GPU 最终执行的机器指令编码。

工程细节

编译器将 PTX 转换为架构专用代码。可用指令、操作数约束和生成序列都取决于目标架构与工具链。因此,看似相同的 PTX 操作在不同代硬件上可能生成不同机器指令或调度行为。

为什么重要

PTX 指令数量不一定等于实际执行的硬件指令数量。底层性能研究应检查生成的机器代码和计时,不能只凭源代码中的指令名称推断吞吐量。

如何在 InferenceX 中解读

Blackwell 文章在测试路径中对应了 cp.async 与 LDGSTS、tensor bulk copy 与 UTMALDG。这些对应关系属于该编译上下文,不是所有 PTX 程序的无条件规则。

在真实基准中理解这一概念

全部文章