NVIDIA 如何用 DSX 把兆瓦变成 token:AI 工厂能效与电网灵活性
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
NVIDIA 在 AI Infra Summit 上公布 DSX 平台进展:云厂商 Lambda 在五机架 19 节点 HGX B200 集群上验证 DSX MaxLPS,同一电力预算下 token 吞吐提升 24%(约 400 万增至 500 万 tokens/秒),每瓦性能提升 23%。
来源:NVIDIA Blog · blogs.nvidia.com