AI 推理术语表
硬件

UALink

也称为 Ultra Accelerator Link、UALoE

先用大白话

UALink 是机柜内加速器之间高速 scale-up 链路的开放行业标准,是生态对 NVLink 的回应。

技术定义

UALink 是面向加速器之间 scale-up 通信的开放互连规范,让机柜内的大量芯片以交换级速度共享内存流量。

工程细节

NVLink 证明了用低延迟内存语义网络连接的一机柜芯片可以表现得像一颗巨型加速器,但它是私有的。UALink 联盟定义了开放的等价方案,让 NVIDIA 之外的厂商也能构建机柜级域。UALink over Ethernet(简称 UALoE)把协议跑在 Ethernet 交换上,AMD Helios 世代的机柜采用这条路线,组成结构上对标 NVL72 的 72 芯片 scale-up 域。

为什么重要

scale-up 域的大小日益决定服务架构,宽专家并行和分离式部署都希望几十颗芯片处在同一张快速网络内。开放标准决定机柜级推理是继续作为单厂商优势,还是成为整个生态的能力。

如何在 InferenceX 中解读

InferenceX 在硬件覆盖中把 AMD MI455X 机柜这类 UALoE72 级系统与 NVL72 系统并列,机柜级网络上市后即可在相同模型工作负载上正面对比。