全部 AI 推理芯片

MI325X vs H200

本页对比 AMD Instinct MI325X NVIDIA H200 SXM 的纸面规格与价格,并链接到相同工作负载上持续测量的 LLM 推理基准测试。

纸面规格对比

MI325XH200MI325X / H200
单芯片显存256 GB HBM3e141 GB HBM3e1.82x
内存带宽6 TB/s4.8 TB/s1.25x
稠密 FP8 算力2,615 TFLOP/s1,979 TFLOP/s1.32x
稠密 FP4 算力不支持不支持不适用
TDP1,000 W700 W1.43x
小时租价(neocloud 档)$1.32/hr$1.59/hr0.83x
Scale-up 域规模8 芯片8 芯片1.0x

倍数为纸面规格对比;实测差距请见实时对比页面。

常见问题

MI325X 和 H200 谁的显存更大?
MI325X 单芯片为 256 GB HBM3e,H200 为 141 GB HBM3e,容量比约 1.82x。
MI325X 和 H200 的价格怎么比?
按 SemiAnalysis TCO 模型 neocloud 档费率,MI325X 约 $1.32/hr,H200 约 $1.59/hr。单看小时租价容易误导:每美元性能对比页面会用实测吞吐量除以这些费率。
MI325X 的 LLM 推理速度比 H200 快吗?
纸面上 MI325X 的稠密 FP8 算力是 H200 的 1.32x,但实际交付的 token 吞吐量取决于模型、推理引擎、精度和交互性目标。InferenceX 每日在完全相同的工作负载上测量这两款芯片,最新结果请见实时对比页面。

查看实时基准测试结果

以上都是静态硬件数据。实际交付的 token 吞吐量、每百万 token 成本和每 token 能耗在仪表板上持续测量:

通过 SemiAnalysis 行业模型深入研究

InferenceX 测量实际交付的推理性能,而 SemiAnalysis 机构级行业模型覆盖这些芯片背后的市场:谁在出货、谁在采购、拥有成本是多少。