LMSYS Blog· SGLang Team·· 2026-07-14AI 评分40
SGLang 服务 GLM-5.2 NVFP4 智能体负载：两周内达到 500 TPS
Serving GLM5.2 NVFP4 Agentic Workload with SGLang: Reaching 500 TPS in 2 Weeks
AI 导读
SGLang 在 8xB300（bs=1）上为 GLM-5.2 NVFP4 智能体负载实现超 500 TPS，两周内完成从 day-0 支持到 v0.5.15.post1 的优化。
来源：LMSYS Blog · lmsys.org