硬件TMA
Tensor Memory Accelerator
先用大白话
NVIDIA 的异步批量张量传输机制，可减少线程逐个计算地址的工作。
技术定义
TMA 是硬件支持的数据传输机制，利用张量描述在受支持的存储空间之间异步搬运数据。
工程细节
Blackwell 文章测试的 global-to-shared 路径可由单个线程发起多维传输。引擎处理地址生成和受支持的布局细节，同步机制通知消费者数据已经就绪。传输形状与在途工作量影响可达带宽。
为什么重要
TMA 能减少部分软件开销，但不保证适合所有访问模式或传输大小。不规则 page 选择或较小传输可能更适合其他 copy 机制。
如何在 InferenceX 中解读
文章在明确的线程、stage 和 box 配置下比较二维 TMA 与 LDGSTS。两者性能交点取决于工作负载，转载也明确标注了原文 bytes 与 KiB 不一致的位置。