Ai2 发布 Olmo-core 3 开源 MoE 训练框架，支持扩展至万亿参数

Ai2 发布 Olmo-core 3，为 Olmo 框架带来重新设计的开源 MoE 训练系统，可扩展到万亿参数规模并保持计算效率。新实现从 FSDP 切换到基于 DDP 的方案，47B 参数 MoE 在 8 张 NVIDIA B300 上达到每 GPU 每秒 52,000 tokens，约为旧实现的 2.7 倍；启用 MXFP8 后吞吐比 BF16 高约 21%。