LMSYS Blog· Nvidia & SGLang Team·· 2026-02-19AI 评分40
在 GB300 NVL72 上部署 DeepSeek:长上下文推理大幅提速
Deploying DeepSeek on GB300 NVL72: Big Wins in Long-Context Inference
AI 导读
SGLang 在 GB300 NVL72 上部署 DeepSeek R1-NVFP4,128K/8K 长上下文场景下实现 226.2 TPS/GPU,较 GB200 提升 1.53X;相同吞吐下 MTP 使用户吞吐再提升 1.87X。
来源:LMSYS Blog · lmsys.org