软件栈
URMA
先用大白话
Ascend 软件栈中用于协作设备间数据交换的远程内存通信接口。
技术定义
URMA 提供远程内存通信抽象，供软件在支持的互连与设备之间交换数据。
工程细节
通信性能取决于传输实现、端点、内存注册、消息大小和同步。接口名称不能说明物理拓扑，也不能证明通信不会与计算争用资源。应用还需要管理数据何时可供远端消费者读取。
为什么重要
混合专家模型即使本地 GEMM 很快，dispatch 和 combine 也可能成为关键路径。通信库必须同时适配硬件网络和模型的路由模式。
如何在 InferenceX 中解读
Huawei 文章在通信栈讨论中介绍 URMA。针对特定硬件的说明，不能推广为所有 URMA 部署都能达到的通用延迟或带宽保证。