Ming-Flash-Omni:蚂蚁集团千亿参数全模态统一大模型的关键技术与实践
Ming-Flash-Omni:全模态统一大模型的关键技术与实践
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
蚂蚁集团高级算法专家郭清沛在 QCon 北京站分享了千亿参数全模态统一大模型 Ming-flash-omni 的技术方案。该模型通过 multi-router 与 AnyExperts 解决多模态专家分化与冗余问题,并采用原生多模态训练范式,将多模态与语言的对齐前置到 LM 训练阶段。
来源:InfoQ · 微信公众号 · mp.weixin.qq.com