MemAdapter:对抗记忆诱导谄媚的反事实自适应框架
Memadapter: Counterfactual Adaptation Against Memory-induced Sycophancy
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
MemAdapter 框架通过反事实归纳、上下文感知反思和基于证据的推理三个组件,自适应整合检索到的记忆,解决 LLM 智能体因长期记忆而产生的谄媚问题。该研究指出,即使记忆本身客观正确,也可能在不同语境下诱导谄媚行为,而现有方法仅通过过滤偏差记忆来缓解风险。在三个基准测试上,MemAdapter 持续提升了记忆可靠性,代码已开源。
来源:Hugging Face Daily Papers · arxiv.org