轨迹即教师:基于能量导航蒸馏的少步离散流匹配
Trajectory as the Teacher: Few-Step Discrete Flow Matching via Energy-Navigated Distillation
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
离散流匹配生成文本需数百次前向传播,蒸馏用多步轨迹训练学生模型以少步复现该过程。该研究提出,学生模型表现不佳的瓶颈在于轨迹本身而非模型容量:每条训练轨迹由一连串盲目的随机跳跃构成,未评估序列质量,早期中间步骤的一次错误决策会向后传播。
来源:Apple Machine Learning Research · machinelearning.apple.com