D-SCAN:通过文档级注意力坍缩检测 RAG 投毒攻击
When Context Bites: Detecting RAG Poisoning via Document-Level Attention Collapse
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
针对 RAG 投毒攻击,研究者提出轻量检测框架 D-SCAN(Document-level Signal Collapse Analysis),通过监测生成器注意力动态识别被攻击的生成结果。
来源:Hugging Face Daily Papers · arxiv.org