SemiAnalysis 实测 Vera Rubin NVL72 智能体推理性能，称每美元 TCO 吞吐最高达 GB300 的 67 倍
Vera Rubin NVL72 Agentic Inference: 67x better Performance per Dollar
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
SemiAnalysis 基于 InferenceX/AgentX 基准发布 Rubin 首批经实测的智能体推理结果，在 TRTLLM NVFP4 下 170 TPS 点位 Vera Rubin NVL72 每 TCO 总吞吐约为 GB300 的 67 倍，60-100 TPS 区间为 1.4x-3x。
来源：SemiAnalysis 长文 · newsletter.semianalysis.com