跳到正文
原文
量子位· 量子位·· 10 小时前AI 评分35

中国联通提出异构分组混合专家架构 MoHGE:参数瘦身20%,推理反超传统 MoE,入选 ACL 2026

异构分组混合专家架构上线:参数瘦身20%,推理反超传统MoE | ACL'26

AI 导读

中国联通数据科学与人工智能研究院团队提出异构分组混合专家架构 MoHGE,通过两级路由与全尺寸解耦分配,在 3B 和 14B 规模下比同等精度传统 MoE 削减约 20% 参数量,每次推理激活的专家参数量降低近四分之一,准确率在 MMLU、MATH、GSM8K 等基准上媲美甚至超越传统架构。该成果入选 ACL 2026,代码已开源。

来源:量子位 · mp.weixin.qq.com