DIEM:面向强化微调的动态重要样本挖掘框架
Dynamic Important Example Mining for Reinforcement Finetuning
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
研究者提出 Dynamic Important Example Mining(DIEM),一个全自动的强化微调数据利用框架,通过梯度对齐重要性估计器近似每个样本对策略改进的边际贡献,并用约束批重加权方案在保持更新梯度幅度的同时最大化总体效用。在多个推理基准上,DIEM 持续优于强静态与动态基线,代码将通过论文链接发布。
来源:Hugging Face Daily Papers · arxiv.org