Cola2:融合连续语义压缩与均衡离散生成的自适应分层语言建模框架
Cola2: Co-Adaptive Hierarchical Language Modeling with Continuous Semantic Compression and Balanced Discrete Generation
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Cola2 提出一种分层语言生成框架,将连续语义压缩与离散文本生成联合建模,通过无辅助损失的负反馈控制压缩率,并用块因果掩码扩散解码器结合无分类器引导平衡重建与生成。
来源:Hugging Face Daily Papers · arxiv.org