跳到正文
原文
Apple Machine Learning Research·· 23 小时前AI 评分46

Apple 研究:扩散模型置信度采样的局限性

Limits of Confidence in Diffusion

AI 导读

Apple 研究团队证明,离散扩散模型(含 remasking 与 uniform-state 采样器)单步生成只有在所写位置在已固定 token 条件下相互独立时才匹配训练分布,而逐位置分布的乘积无法拟合存在依赖关系的 token 组。在合成任务 ScanAndAdd 上,置信度排序写入的每组两个及以上未定位置均为依赖关系,生成分布的总变差达采样噪声下限的 29 倍,而逐样本指标仍为 1.0。

来源:Apple Machine Learning Research · machinelearning.apple.com