数值精度
MXFP4
也称为 微缩放 FP4、OCP MX FP4
先用大白话
MXFP4 让每小组 4 位数字拥有自己的缩放值,使极紧凑的数字仍保留足够可用范围。
技术定义
MXFP4 是一种微缩放四位浮点格式,由小块数值共享缩放因子。
工程细节
块级缩放让四位值在局部保有可用动态范围,同时维持紧凑存储与传输;硬件和软件必须就块布局、缩放表示与矩阵内核达成一致。
为什么重要
MXFP4 用于 AMD 及跨厂商低精度路径。实际结果由检查点制备与内核覆盖决定,标称 bit 数无法完整描述。
如何在 InferenceX 中解读
InferenceX 把 MXFP4 记录为完整引擎和硬件方案的一部分。与 NVFP4 或 FP8 比较时,应匹配模型、序列长度、质量要求和交互性目标。
参考资料