LMSYS Blog· The SGLang-Diffusion Team·· 2026-02-16AI 评分47
SGLang-Diffusion 如何为生产级视频生成做深度优化
SGLang-Diffusion: Advanced Optimizations for Production-Ready Video Generation
AI 导读
SGLang-Diffusion 公布面向生产级视频生成的进阶优化,覆盖并行策略、VAE、服务稳定性与 I/O。序列并行从帧级改为 token 级分片,在 8×H100 上把填充开销从 3 帧(14.3%)降到 0,all-to-all 通信量降至 0.875×。同时为 Wan-VAE 实现按高度分片的并行编解码,并修复 Cache-DiT 在多请求服务下的缓存污染与崩溃问题。
来源:LMSYS Blog · lmsys.org