FOVEATED:用聚焦视图提升非结构化知识编辑中的原子事实召回
Improving Atomic-Fact Recall via Focused Views in Unstructured Knowledge Editing
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
针对非结构化知识编辑中"上下文依赖"导致的原子事实召回失败问题,研究者提出即插即用框架 FOVEATED,通过随机偏移前文 key 的 RoPE 位置构造聚焦视图,编辑时施加扰动、推理时移除,不改变模型原生位置编码。该方法在 5 种知识编辑器、2 个 LLM 主干和 3 个基准上取得一致提升。
来源:Hugging Face Daily Papers · arxiv.org