硬件
极致协同设计
也称为 extreme co-design、平台协同设计、软硬件协同设计
先用大白话
协同设计把相互依赖的系统组件一起开发,减少其他环节的瓶颈对局部性能提升的抵消。
技术定义
极致协同设计是 Rubin 文章使用的术语,指围绕目标工作负载,协调开发加速器、主机、互连和网络产品。
工程细节
更快的 GPU 仍可能等待内存、通信或请求调度。联合设计这些组件,会改变服务栈能够使用的资源。文章列出了六款协同产品:Rubin GPU、Vera CPU、NVLink 6 Switch、ConnectX-9、BlueField-4 和 Spectrum-6。
为什么重要
这一概念关注完整系统性能,而不只看峰值算力。它是一种架构设计方法,不是基准指标,也不是通过独立实验验证的某个吞吐量倍率的归因。
如何在 InferenceX 中解读
AgentX 在多轮流量下测量最终软硬件配置。Rubin 文章并未分别改变六款产品来做控制变量实验,因此不能将实测增益分配给各组件,也不能据此确定通用的协同设计加速倍数。