跳到正文
AI前线 · 微信公众号·· 2026-08-31AI 评分64

腾讯混元引入 GLM-5 前核心研究员,混元4 沿用 DeepSeek 与智谱稀疏注意力

独家|大模型没有秘笈:腾讯混元引入GLM-5前核心研究员

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

腾讯混元在大语言与多模态两大部门合并重组后交出的混元4(Hy4 preview)参数规模 770B,支持百万上下文,距离上一代大版本发布不到四个月。文章指出其核心注意力模块借鉴了 DeepSeek 的 DSA 与智谱的 IndexCache,官方 README 也承认架构设计受到 DeepSeek 和 GLM 启发。

来源:AI前线 · 微信公众号 · mp.weixin.qq.com