任意模型在任意 GPU 上的实测结果

选一个模型和一款 GPU:下面每个页面都会回答它能跑多快、每百万 token 成本多少、以及数字出自哪个推理引擎,数据来自真实硬件上持续重跑的基准测试。