大模型没有秘笈：腾讯混元4背后站着GLM-5核心研究员
独家｜大模型没有秘笈：腾讯混元4背后站着GLM-5核心研究员
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
腾讯混元4（Hy4 preview）发布，参数规模770B、支持百万上下文，官方坦诚其架构设计受到DeepSeek和GLM启发。它最核心的注意力模块来自DeepSeek的DSA稀疏注意力，并叠加智谱验证的IndexCache跨层索引复用，后者最高可削减75%的索引器计算量。
来源：AI前线 · 微信公众号 · mp.weixin.qq.com