@OpenBMB· @OpenBMB · X·· 28 天前精选AI 评分66
AI 导读
面壁智能 OpenBMB 宣布开源 MiniCPM5-2B,除模型权重外还开放数据、训练配方和 RL 栈。数据侧包括 UltraData-Code(约 550B tokens)、UltraData-SFT-Agent-2609(约 500K 样本)、UltraData-RL-2609(80K+ 样本)和 UltraX(约 100B tokens / 114M samples)。训练与 RL 部分包括 Meshy 可扩展强化学习框架和 JustRL II 的 token-level credit assignment。
推荐理由
MiniCPM5-2B 将模型权重与训练数据、配方和 RL 栈一并开放,读者可据此了解其开源范围与资源规模。
正文
We’re not just releasing the model weights.
We’re opening up the data, training recipes, and RL stack behind MiniCPM5-2B:
📊 Data
UltraData-Code · ~550B tokens
UltraData-SFT-Agent-2609 · ~500K samples
UltraData-RL-2609 · 80K+ samples
UltraX · ~100B tokens / 114M samples
⚙️ Training & RL
Meshy · scalable RL training framework
JustRL II · token-level credit assignment for RL
来源:@OpenBMB · x.com