HybridAL:主动学习中基于稳定信号的训练策略切换
Train Smarter, Not Harder: Switching Signal-Guided Training in Active Learning
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
HybridAL 是一种自适应训练调度方法,通过监测在线稳定信号,在模型轨迹持续稳定后从重新训练切换为微调。在三种编码器骨干和六个文本分类任务上,HybridAL 的端点 macro-F1 与重新训练和微调相比不劣于 0.010 的差距,最多节省 49% 的重新训练时间,并恢复了重新训练在 NLL 校准上的大部分优势。相比固定轮次切换,它在中度额外成本下获得更低的 NLL。
来源:Hugging Face Daily Papers · arxiv.org