AI 推理术语表
硬件

极致协同设计

也称为 extreme co-design、平台协同设计、软硬件协同设计

先用大白话

协同设计把相互依赖的系统组件一起开发,减少其他环节的瓶颈对局部性能提升的抵消。

技术定义

极致协同设计是 Rubin 文章使用的术语,指围绕目标工作负载,协调开发加速器、主机、互连和网络产品。

工程细节

更快的 GPU 仍可能等待内存、通信或请求调度。联合设计这些组件,会改变服务栈能够使用的资源。文章列出了六款协同产品:Rubin GPU、Vera CPU、NVLink 6 Switch、ConnectX-9、BlueField-4 和 Spectrum-6。

为什么重要

这一概念关注完整系统性能,而不只看峰值算力。它是一种架构设计方法,不是基准指标,也不是通过独立实验验证的某个吞吐量倍率的归因。

如何在 InferenceX 中解读

AgentX 在多轮流量下测量最终软硬件配置。Rubin 文章并未分别改变六款产品来做控制变量实验,因此不能将实测增益分配给各组件,也不能据此确定通用的协同设计加速倍数。