DiScoFormer:用单个 Transformer 同时估计分布的密度与分数
DiScoFormer: One transformer for density and score, across distributions
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
DiScoFormer 用一个 Transformer 在一次前向传播中同时估计分布的密度与分数,无需针对新分布重新训练。模型以高斯混合模型(GMM)作为训练目标,利用密度与分数(log-density 的梯度)的数学关系共享主干并设两个输出头。
来源:Hugging Face Blog · huggingface.co