跳到正文
热点事件持续更新

联通提出异构分组混合专家架构MoHGE

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

2026年10月4日,中国联通数据科学与人工智能研究院团队提出异构分组混合专家架构MoHGE,通过两级路由与全尺寸解耦分配,在3B和14B规模下比同等精度传统MoE削减约20%参数量,每次推理激活的专家参数量降低近四分之一,准确率在MMLU、MATH、GSM8K等基准上媲美甚至超越传统架构。该成果入选ACL 2026,代码已开源。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月4日
  1. 量子位
    中国联通提出异构分组混合专家架构 MoHGE:参数瘦身20%,推理反超传统 MoE,入选 ACL 2026

    中国联通数据科学与人工智能研究院团队提出异构分组混合专家架构 MoHGE,通过两级路由与全尺寸解耦分配,在 3B 和 14B 规模下比同等精度传统 MoE 削减约 20% 参数量,每次推理激活的专家参数量降低近四分之一,准确率在 MMLU、MATH、GSM8K 等基准上媲美甚至超越传统架构。该成果入选 ACL 2026,代码已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。