软件栈UVA
统一虚拟寻址
也称为 Unified Virtual Addressing、UVA
先用大白话
UVA 让支持的主机与设备内存分配共享虚拟地址空间,供 GPU 代码访问。
技术定义
统一虚拟寻址(UVA)为支持的 CPU 和 GPU 内存分配提供统一虚拟地址空间,但不会让主机内存在物理上等同于 HBM。
工程细节
文章中的 Engram 内核通过 UVA 直接读取固定页主机内存,在 GPU 上完成行选择与反量化,从而避开实验性 SSD 实现中显式把行 ID 送往 CPU 的往返过程。
为什么重要
统一地址空间不意味着自动页面迁移,也不意味着各类内存具有相同带宽。性能仍取决于地址背后的存储介质,以及访问该介质所经过的互连。
如何在 InferenceX 中解读
HBM 和 DRAM 版本使用同一行选择内核,均支持完整 decode graph。SSD 实验改变了执行路径,因此其对比结果不能解释为仅测量存储设备延迟。