拆解 Kimi K3 技术报告：月之暗面开始给 DeepSeek 出题了

月之暗面公开 Kimi K3 的完整权重与 47 页技术报告，报告称相较 K2 整体 scaling 效率提升约 2.5 倍。技术报告显示，K3 采用 3:1 的 KDA 线性注意力与 MLA 混合架构、AttnRes 层间检索，以及 896 个专家、每个 token 激活 16 个的 MoE 配置。