硬件
固定页主机内存
也称为 pinned host memory、page-locked memory
先用大白话
固定页主机内存驻留在 RAM 中,为设备提供稳定的主机内存分配。
技术定义
固定页主机内存是为设备访问或传输而保持驻留的主机 RAM,不同于操作系统可以回收或通过分页处理的普通可分页内存。
工程细节
Engram 的 DRAM 实现通过 UVA 直接读取固定页主机表。SSD 实验则先把选中行收集到固定页缓冲区,再复制到 GPU。两者都使用固定页内存,但协调及传输路径不同。
为什么重要
固定页内存会消耗主机容量,并非免费存储。稳定驻留有利于高效设备访问,但分配过多会减少应用和文件系统缓存可用的 RAM。
如何在 InferenceX 中解读
文章中已经缓存的 SSD 文件不等同于固定页 DRAM 表。缓存页可避免物理磁盘读取,但实验路径仍需由 CPU 收集行,并在 graph 片段之间传输相应缓冲区。