跳到正文
Hugging Face Daily Papers·· 2026-08-20AI 评分37

AdaPop:面向 LLM 遗忘的自适应流行度方法

The More Popular, The Harder to Forget: Adaptive Popularity for LLM Unlearning

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

AdaPop 是一种按事实流行度自适应调整梯度压力的 LLM 遗忘方法,结合局部 token 置信度与来自 Wikidata sitelinks、LLM-as-Judge 等外部代理的流行度指数,并用双上升控制器逐 epoch 自动调节保留惩罚。在三个模型家族和两个基准上,AdaPop 在改写查询下泄漏的遗忘内容比对比方法少约 5 倍,在对抗性改写下少约 1.6 倍。

来源:Hugging Face Daily Papers · arxiv.org