跳到正文
IT Home·· 2026-07-01AI 评分46

英伟达在 Blackwell 平台刷新 DeepSeek V4 推理纪录:单 Token 成本降至 1/5,吞吐量最高提升 20 倍

英伟达刷新 DeepSeek V4 推理纪录:单 Token 成本降至 1/5,AI 吞吐量最高提升 20 倍

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

英伟达在 Blackwell 平台上优化全栈推理,使 DeepSeek V4 的单 Token 成本相比其上线初期最多降至五分之一,单 GPU token 吞吐量最高提升 20 倍。优化通过生产运营、应用加速、基础设施访问三层实现,并采用分离式服务、大规模专家并行、NVLink 并行通信、NVFP4 精度和多 token 预测等技术。

来源:IT Home · ithome.com