全部 AI 推理芯片

B200 vs H100

本页对比 NVIDIA B200 NVIDIA H100 SXM 的纸面规格与价格,并链接到相同工作负载上持续测量的 LLM 推理基准测试。

纸面规格对比

B200H100B200 / H100
单芯片显存180 GB HBM3e80 GB HBM32.25x
内存带宽8 TB/s3.35 TB/s2.39x
稠密 FP8 算力4,500 TFLOP/s1,979 TFLOP/s2.27x
稠密 FP4 算力9,000 TFLOP/s不支持不适用
TDP1,000 W700 W1.43x
小时租价(neocloud 档)$2.07/hr$1.55/hr1.34x
Scale-up 域规模8 芯片8 芯片1.0x

倍数为纸面规格对比;实测差距请见实时对比页面。

常见问题

B200 和 H100 谁的显存更大?
B200 单芯片为 180 GB HBM3e,H100 为 80 GB HBM3,容量比约 2.25x。
B200 和 H100 的价格怎么比?
按 SemiAnalysis TCO 模型 neocloud 档费率,B200 约 $2.07/hr,H100 约 $1.55/hr。单看小时租价容易误导:每美元性能对比页面会用实测吞吐量除以这些费率。
B200 的 LLM 推理速度比 H100 快吗?
纸面上 B200 的稠密 FP8 算力是 H100 的 2.27x,但实际交付的 token 吞吐量取决于模型、推理引擎、精度和交互性目标。InferenceX 每日在完全相同的工作负载上测量这两款芯片,最新结果请见实时对比页面。

查看实时基准测试结果

以上都是静态硬件数据。实际交付的 token 吞吐量、每百万 token 成本和每 token 能耗在仪表板上持续测量:

通过 SemiAnalysis 行业模型深入研究

InferenceX 测量实际交付的推理性能,而 SemiAnalysis 机构级行业模型覆盖这些芯片背后的市场:谁在出货、谁在采购、拥有成本是多少。