VA-TDM:用速度对抗蒸馏统一改进少步扩散模型
VA-TDM: A Unified View for Improving Few-Step Diffusion Models by Velocity Adversarial Distillation
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
VA-TDM 通过速度对抗蒸馏(VAD)统一了分数蒸馏、Fisher 匹配与矩匹配,并为学生轨迹上的部分去噪提供监督。该方法在文生图与文生视频任务上取得 SOTA 的四步生成性能,并可扩展至 33B 的 MiniMax-H3。VA-TDM-H3 在人类偏好上明显优于少步 Fast-H3,更接近原始多步 H3。
来源:Hugging Face Daily Papers · arxiv.org