跳到正文
NVIDIA Blog· Vishal Ganeriwala·· 22 天前AI 评分39

NVIDIA 如何用 DSX 把兆瓦变成 token:AI 工厂能效与电网灵活性

From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

NVIDIA 在 AI Infra Summit 上公布 DSX 平台进展:云厂商 Lambda 在五机架 19 节点 HGX B200 集群上验证 DSX MaxLPS,同一电力预算下 token 吞吐提升 24%(约 400 万增至 500 万 tokens/秒),每瓦性能提升 23%。

来源:NVIDIA Blog · blogs.nvidia.com