并行策略
TMA multicast
先用大白话
一次张量传输向多个协作 block 提供数据，减少对共享输入的重复请求。
技术定义
TMA multicast 将一次传输分发给受支持 cluster 中选定的 block，让它们在各自本地存储中接收共享输入。
工程细节
显式 multicast 直接向硬件指定接收方。Blackwell 文章还单独测试多个 block 对相同地址发起独立请求的情况，请求合并可能产生类似效果。有效数据交付吞吐量相同，不代表 L2 流量相同，工作集变化时尤其如此。
为什么重要
GEMM 类计算可通过跨 block 复用输入来减少内存流量。收益取决于访问重叠、cluster 放置，以及剩余计算或同步瓶颈。
如何在 InferenceX 中解读
应区分写入全部目标缓冲的字节数与经过 L2 或 HBM 读取的字节数。流量减少倍数不能直接视为应用加速倍数，转载也标注了原文图注中的单位问题。