LMSYS Blog· NVIDIA Team·· 2026-06-26AI 评分46
SGLang 用 Waterfill 与 LPLB 改进 DeepEP MoE 负载均衡
Improving DeepEP MoE Load Balance in SGLang with Waterfill and LPLB
AI 导读
SGLang 为 DeepEP MoE 推理引入两种调度期负载均衡方案：面向共享专家的 Waterfill 和基于线性规划、针对冗余专家副本的 LPLB。
来源：LMSYS Blog · lmsys.org