长时程 RL 需要 Muon:单轨迹异步训练配方提升仓库级问题解决成功率
Long-Horizon RL Needs Muon
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
一项研究提出面向长时程智能体的单轨迹异步训练配方,将 Muon 优化器与 token 平均损失、截断重要性采样以及长度和工具错误辅助惩罚项结合,无需等待同一问题的多条轨迹即可异步学习。研究在两个模型家族上考察了优化器选择与配方组件,用于仓库级问题解决,完整配方的训练成功率高于基线。该工作为 7 页预印本,仍在进行中。
来源:Hugging Face Daily Papers · arxiv.org