跳到正文
原文
LMSYS Blog· SGLang Team·· 2026-08-12精选AI 评分65

SGLang 与 Miles 为 Qwen3.8-2.4T-A95B 提供 Day-0 支持

SGLang and Miles Add Day-0 Support for Qwen3.8

AI 导读

SGLang 与 Miles 宣布 Day-0 支持 Qwen3.8-2.4T-A95B,这是千问最大的开源模型,总参数 2.4T、每 token 激活 95B,采用 69 层 GDN 线性注意力与 23 层 GQA 全注意力 3:1 交错的混合架构,MoE 含 512 专家 top-10 路由。

推荐理由

SGLang 团队详解 Qwen3.8 混合注意力架构的推理支持方案,给出内核优化、并行布局与实测吞吐数字,可作部署参考。

来源:LMSYS Blog · lmsys.org