AI 推理术语表

硬件GPC

图形处理集群

先用大白话

GPU 的硬件资源分组,限制协作 thread block cluster 可以调度的位置。

技术定义

GPC 是 NVIDIA GPU 中包含 SM 等执行资源的硬件分组,内部组织随架构变化。

工程细节

Blackwell 文章通过 cluster 共同调度推断逻辑 SM 分组。Floorsweeping 可能造成不同分组的可用资源不同。软件可见的成员关系不能直接说明物理坐标,也不能确定多裸片封装中每组位于哪个裸片。

为什么重要

如果 kernel 假定每组可用容量完全相同,就可能让部分 SM 闲置。即使物理布局未知,逻辑拓扑仍影响调度。

如何在 InferenceX 中解读

应将逻辑 cluster 映射证据与文章根据指针追逐提出的位置假设分开。整卡 SM 数或单张延迟矩阵,都不能单独描述全部调度及内存局部性约束。

在真实基准中理解这一概念

全部文章