Microsoft AI 完成 MAI-Base-2 预训练:2.8T 参数 MoE 模型
Frontier Pre-training at Microsoft AI
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Microsoft AI 宣布完成新基座模型 MAI-Base-2 的预训练,这是一个 80B 激活、2.8T 总参数的 MoE 模型,在其 held-out 评测中以更低 BPB 优于所测的全部开放权重模型,FLOPs 效率较 DeepSeek-V4-Pro-Base 高 4.2–12.3 倍。
推荐理由
官方披露 MAI-Base-2 的参数规模、训练细节与评测方法,读者可以据此对比其相对 DeepSeek-V4-Pro-Base 的效率优势。
来源:Microsoft AI News · microsoft.ai