跳到正文
Hugging Face Daily Papers·· 2 天前AI 评分44

REMORY:用残差记忆网络实现上下文压缩

REMORY: Learning Residual Memory for Context Compaction

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

REMORY 是一种神经记忆网络,在文本摘要之外生成有界的软记忆 token,帮助冻结的 LLM 逼近使用完整历史时的输出。在 SummHay 上,REMORY 仅用 5.2% 的输入位置就接近全上下文联合得分,并提升来源归因。

来源:Hugging Face Daily Papers · arxiv.org