Apple 提出 PROOF-Gen:从优化数据到更好的蒸馏
PROOF-Gen: From Optimized Data to Better Distillation
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Apple 提出 PROOF-Gen,用优化数据改进工具调用能力的蒸馏流程。现有 generate-and-filter 流程只保留教师模型通过的轨迹、丢弃失败样本,导致每轮训练都遗留同样的困难场景;在 τ 2-bench 上教师模型 57% 的尝试失败,其中三分之二为 near-miss。
来源:Apple Machine Learning Research · machinelearning.apple.com