InfiniBand
也称为 IB、InfiniBand 网络、NDR InfiniBand
先用大白话
InfiniBand 是连接 AI 集群中各台服务器的高速低延迟网络，承担 NVLink 够不到的跨节点流量。
技术定义
InfiniBand 是原生支持 RDMA 的交换式网络，是大多数大型 NVIDIA 集群中节点之间的 scale-out 互连。
工程细节
节点或机柜内部，芯片通过 NVLink 这类 scale-up 链路通信；越过这个边界，流量就进入 scale-out 网络，InfiniBand 在这里与支持 RDMA 的 Ethernet 竞争。InfiniBand 提供微秒级延迟、当前世代每链路数百 Gb/s 的带宽，以及 SHARP 这类在网归约能力。多节点推理、prefill 与 decode 分离、宽专家并行都把跨节点集合通信和 KV 传输放在这张网络上。
为什么重要
一旦模型跨节点，网络就与算力一样成为一级性能要素。网络选型塑造集群成本和厂商绑定，InfiniBand 与 Ethernet 之争是 AI 基础设施领域最核心的竞争战场之一。
如何在 InferenceX 中解读
InferenceX 的多节点配置，包括分离式和机柜级结果，都跑在所在集群的 scale-out 网络上，配置元数据会记录互连类型，因为它对跨节点数字的可复现性影响重大。
参考资料
在真实基准中理解这一概念
GB200 NVL72 对比 B200 运行 DeepSeek R1 670B：在 125 tok/s/user 下每 GPU 吞吐量最高达 4.4 倍
DeepSeek R1 FP4 1k/1k。NVL72 的 72-GPU NVLink 扩展域允许解码使用最高 EP=32 的宽专家并行，而 B200 的 8-GPU NVLink 岛通过 RoCEv2 上限为 EP=8
Vera Rubin NVL72 对比 GB200 NVL72？推理 TCO 与架构分析
Rubin 基于 LUT 的 Tensor Core、Feynman、机架级架构、每兆瓦性能、每美元性能、软件改进、Rubin 公开软件栈、PyTorch、vLLM、OpenAI Triton