跳到正文
原文
LMSYS Blog· Nvidia & SGLang Team·· 2026-02-19AI 评分40

在 GB300 NVL72 上部署 DeepSeek:长上下文推理大幅提速

Deploying DeepSeek on GB300 NVL72: Big Wins in Long-Context Inference

AI 导读

SGLang 在 GB300 NVL72 上部署 DeepSeek R1-NVFP4,128K/8K 长上下文场景下实现 226.2 TPS/GPU,较 GB200 提升 1.53X;相同吞吐下 MTP 使用户吞吐再提升 1.87X。

来源:LMSYS Blog · lmsys.org