跳到正文
Apple Machine Learning Research·· 21 天前AI 评分32

轨迹即教师:基于能量导航蒸馏的少步离散流匹配

Trajectory as the Teacher: Few-Step Discrete Flow Matching via Energy-Navigated Distillation

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

离散流匹配生成文本需数百次前向传播,蒸馏用多步轨迹训练学生模型以少步复现该过程。该研究提出,学生模型表现不佳的瓶颈在于轨迹本身而非模型容量:每条训练轨迹由一连串盲目的随机跳跃构成,未评估序列质量,早期中间步骤的一次错误决策会向后传播。

来源:Apple Machine Learning Research · machinelearning.apple.com