用单一算法训练基础模型
Training Foundation Models with a Single Algorithm
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
研究提出“统一训练”(unified training),将预训练、midtraining、SFT 和 RL 各阶段统一为同一个基于似然的训练算法,把训练生命周期转化为选择数据、配比与时机的数据选择问题,传统分阶段训练成为其特例。该框架在单一训练器中混合静态数据与 RL 生成,在受控与真实实验中改善了精度-算力权衡和任务覆盖,同时保持更广泛能力,并为持续学习提供更好的起点。
来源:Hugging Face Daily Papers · arxiv.org