HOTFIXR：用定向合成多语言数据提升 LLM 跨语言推理能力
LLMs Get Smarter from Targeted Synthetic Multilingual Data
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
研究团队提出数据生成框架 HOTFIXR，通过探测学生模型的多语言薄弱点并生成定向合成训练数据来缓解语言特定能力差异。在三个分布内任务、三个分布外任务和四种分布外语言上，HOTFIXR 平均将分布内性能提升 6.2%，并将微调导致的分布外任务灾难性遗忘降低 3.7%、分布外语言性能降低 7.1%。代码将在论文被接收后发布。
来源：Hugging Face Daily Papers · arxiv.org