AI 推理术语表

硬件

芯片分档

也称为 chip binning

先用大白话

根据功能、功耗和性能测试结果,将芯片或内存组件划分为不同配置。

技术定义

分档根据制造出的组件有哪些可用资源、达到哪些运行指标进行分类,而不是假定所有裸片都相同。

工程细节

缺陷可能使资源失效;频率、电压、功耗或内存能力的差异,也可能限制功能完整的组件。厂商可以选择和搭配组件,或屏蔽部分资源来形成产品配置。最终 SKU 不会揭示每个设备的所有物理细节。

为什么重要

标称相似的系统可能具有不同的启用资源和访问局部性。把性能差异全部归因于软件前,应记录实际设备配置与运行条件。

如何在 InferenceX 中解读

Huawei 文章讨论计算与内存配置,Blackwell 文章研究启用的 SM 分组。这些架构观察不是对制造良率的直接测量。

在真实基准中理解这一概念

全部文章