AI 推理术语表
软件栈UVA

统一虚拟寻址

也称为 Unified Virtual Addressing、UVA

先用大白话

UVA 让支持的主机与设备内存分配共享虚拟地址空间,供 GPU 代码访问。

技术定义

统一虚拟寻址(UVA)为支持的 CPU 和 GPU 内存分配提供统一虚拟地址空间,但不会让主机内存在物理上等同于 HBM。

工程细节

文章中的 Engram 内核通过 UVA 直接读取固定页主机内存,在 GPU 上完成行选择与反量化,从而避开实验性 SSD 实现中显式把行 ID 送往 CPU 的往返过程。

为什么重要

统一地址空间不意味着自动页面迁移,也不意味着各类内存具有相同带宽。性能仍取决于地址背后的存储介质,以及访问该介质所经过的互连。

如何在 InferenceX 中解读

HBM 和 DRAM 版本使用同一行选择内核,均支持完整 decode graph。SSD 实验改变了执行路径,因此其对比结果不能解释为仅测量存储设备延迟。