跳到正文
Hugging Face Daily Papers·· 7 天前AI 评分64

SEAD:把工具型智能体的攻防建模为部分可观测状态控制

SEAD: A State-Based Perspective on Attack and Defense in Tool-Using Agents

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

论文提出 SEAD,将语言模型智能体的攻击与防御统一表述为部分可观测的状态控制问题,并据此分别设计 DART 攻击与 SAGE 防御。攻击侧 DART 把有害目标拆成局部看似合理的步骤,借助真实工具执行反馈引导轨迹搜索,在四个目标模型上语义攻击成功率比对比基线高出 18.8 至 35.9 个百分点。

来源:Hugging Face Daily Papers · arxiv.org