MI300X vs H100
本页对比 AMD Instinct MI300X 与 NVIDIA H100 SXM 的纸面规格与价格，并链接到相同工作负载上持续测量的 LLM 推理基准测试。
纸面规格对比
| MI300X | H100 | MI300X / H100 | |
|---|---|---|---|
| 单芯片显存 | 192 GB HBM3 | 80 GB HBM3 | 2.4x |
| 内存带宽 | 5.3 TB/s | 3.35 TB/s | 1.58x |
| 稠密 FP8 算力 | 2,615 TFLOP/s | 1,979 TFLOP/s | 1.32x |
| 稠密 FP4 算力 | 不支持 | 不支持 | 不适用 |
| TDP | 750 W | 700 W | 1.07x |
| 小时租价（neocloud 档） | $1.16/hr | $1.55/hr | 0.75x |
| Scale-up 域规模 | 8 芯片 | 8 芯片 | 1.0x |
倍数为纸面规格对比；实测差距请见实时对比页面。
常见问题
- MI300X 和 H100 谁的显存更大？
- MI300X 单芯片为 192 GB HBM3，H100 为 80 GB HBM3，容量比约 2.4x。
- MI300X 和 H100 的价格怎么比？
- 按 SemiAnalysis TCO 模型 neocloud 档费率，MI300X 约 $1.16/hr，H100 约 $1.55/hr。单看小时租价容易误导：每美元性能对比页面会用实测吞吐量除以这些费率。
- MI300X 的 LLM 推理速度比 H100 快吗？
- 纸面上 MI300X 的稠密 FP8 算力是 H100 的 1.32x，但实际交付的 token 吞吐量取决于模型、推理引擎、精度和交互性目标。InferenceX 每日在完全相同的工作负载上测量这两款芯片，最新结果请见实时对比页面。
查看实时基准测试结果
以上都是静态硬件数据。实际交付的 token 吞吐量、每百万 token 成本和每 token 能耗在仪表板上持续测量：
通过 SemiAnalysis 行业模型深入研究
InferenceX 测量实际交付的推理性能，而 SemiAnalysis 机构级行业模型覆盖这些芯片背后的市场：谁在出货、谁在采购、拥有成本是多少。