全部 AI 推理芯片

MI325X vs MI300X

本页对比 AMD Instinct MI325X AMD Instinct MI300X 的纸面规格与价格,并链接到相同工作负载上持续测量的 LLM 推理基准测试。

纸面规格对比

MI325XMI300XMI325X / MI300X
单芯片显存256 GB HBM3e192 GB HBM31.33x
内存带宽6 TB/s5.3 TB/s1.13x
稠密 FP8 算力2,615 TFLOP/s2,615 TFLOP/s1.0x
稠密 FP4 算力不支持不支持不适用
TDP1,000 W750 W1.33x
小时租价(neocloud 档)$1.32/hr$1.16/hr1.14x
Scale-up 域规模8 芯片8 芯片1.0x

倍数为纸面规格对比;实测差距请见实时对比页面。

常见问题

MI325X 和 MI300X 谁的显存更大?
MI325X 单芯片为 256 GB HBM3e,MI300X 为 192 GB HBM3,容量比约 1.33x。
MI325X 和 MI300X 的价格怎么比?
按 SemiAnalysis TCO 模型 neocloud 档费率,MI325X 约 $1.32/hr,MI300X 约 $1.16/hr。单看小时租价容易误导:每美元性能对比页面会用实测吞吐量除以这些费率。
MI325X 的 LLM 推理速度比 MI300X 快吗?
纸面上 MI325X 的稠密 FP8 算力是 MI300X 的 1.0x,但实际交付的 token 吞吐量取决于模型、推理引擎、精度和交互性目标。InferenceX 每日在完全相同的工作负载上测量这两款芯片,最新结果请见实时对比页面。

查看实时基准测试结果

以上都是静态硬件数据。实际交付的 token 吞吐量、每百万 token 成本和每 token 能耗在仪表板上持续测量:

通过 SemiAnalysis 行业模型深入研究

InferenceX 测量实际交付的推理性能,而 SemiAnalysis 机构级行业模型覆盖这些芯片背后的市场:谁在出货、谁在采购、拥有成本是多少。