每枚硬币都有两面：大语言模型在线策略蒸馏中泛化性的双重本质

一项受控研究发现，在线策略蒸馏（OPD）传递的是教师的推理行为而非具体答案，训练难度几乎不影响效果，连教师从未解决的问题也有用。迁移效果强烈依赖师生同源关系：同源组合能让学生在跨语言、推理范围甚至其他领域上接近教师，跨源组合则基本只拟合训练分布。这种广泛影响是双刃剑——按领域路由提示词无法限制各教师的影响，多教师组合会在能力间形成依赖混合比例的跷跷板效应。