InferenceX 研究

文章

关于智能体推理、AgentX 结果、芯片与推理框架经济性的基准测试文章。

不熟悉相关概念？浏览 AI 推理术语表。

标签：trtllm

7 篇文章

2026年9月14日预计阅读 11 分钟

Jensen 再次低估性能，每吉瓦年利润超过两倍，买得越多赚得越多，AgentX、InferenceX 与深度协同设计

2026年8月25日预计阅读 3 分钟

AMD 厂商引擎在每美元性能上胜出的区间，以及端到端归一化交互性究竟衡量什么

2026年8月25日预计阅读 3 分钟

NVIDIA 横扫这个 432B 模型，而缺失的 DP attention 数据点说明了缓存局部性为何变成路由约束

2026年8月25日预计阅读 2 分钟

GatedDeltaNet、262k 原生上下文，以及同一引擎上 AMD 完全缺席的竞争

2026年7月23日预计阅读 21 分钟

Rubin 基于 LUT 的 Tensor Core、Feynman、机架级架构、每兆瓦性能、每美元性能、软件改进、Rubin 公开软件栈、PyTorch、vLLM、OpenAI Triton

2026年6月9日预计阅读 31 分钟

第0天推理性能、InferenceX、26天内性能提升100倍、每百万 token 成本、Huawei 950DT 推理 Trace 分析

2026年5月23日预计阅读 9 分钟

DeepSeek R1 FP4 1k/1k。NVL72 的 72-GPU NVLink 扩展域允许解码使用最高 EP=32 的宽专家并行，而 B200 的 8-GPU NVLink 岛通过 RoCEv2 上限为 EP=8