CriticOPD：批评引导的在线蒸馏恢复可靠监督

针对在线策略蒸馏（OPD）在错误 rollout 上教师会跟随学生错误、丧失可恢复性的问题，研究者提出 CriticOPD：让教师对错误 rollout 给出批判，学生据此重写解答，教师以批判作为特权信息对改写结果打分，学生训练时只用改写结果不用批判。2026 年 10 月 14 日，该工作以《CriticOPD：用批判引导的在线策略蒸馏恢复可靠监督》为题出现在 Hugging Face Daily Papers。报道称，在两个 Qwen3 学生模型和六个数学推理基准上，CriticOPD 均优于 OPD，在竞赛题上提升最大。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。