AI 推理术语表
硬件

固定页主机内存

也称为 pinned host memory、page-locked memory

先用大白话

固定页主机内存驻留在 RAM 中,为设备提供稳定的主机内存分配。

技术定义

固定页主机内存是为设备访问或传输而保持驻留的主机 RAM,不同于操作系统可以回收或通过分页处理的普通可分页内存。

工程细节

Engram 的 DRAM 实现通过 UVA 直接读取固定页主机表。SSD 实验则先把选中行收集到固定页缓冲区,再复制到 GPU。两者都使用固定页内存,但协调及传输路径不同。

为什么重要

固定页内存会消耗主机容量,并非免费存储。稳定驻留有利于高效设备访问,但分配过多会减少应用和文件系统缓存可用的 RAM。

如何在 InferenceX 中解读

文章中已经缓存的 SSD 文件不等同于固定页 DRAM 表。缓存页可避免物理磁盘读取,但实验路径仍需由 CPU 收集行,并在 graph 片段之间传输相应缓冲区。