小米罗福莉在 ICML 2026 详解 MiMo-V2.5 如何兼顾速度、能力与成本
小米罗福莉：MiMo-V2.5如何做到又快又强又便宜？ | ICML 2026
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
ICML 2026 首日，小米 MiMo 团队罗福莉与曹士杰介绍了 MiMo-V2.5 系列如何通过架构、训练与推理协同设计兼顾速度、能力与成本。预训练侧，MiMo-V2.5 采用混合滑动窗口注意力，以 7:1 稀疏比和 128 token 窗口将注意力 FLOPs 与 KV 缓存降低 7 倍，MiMo-V3 的 High Sparse 架构把稀疏比推到 11:1。
来源：AI科技评论 · 微信公众号 · mp.weixin.qq.com