AdvSim2Real 在网页世界模型中训练 Web Agent 抵御自适应提示词注入
AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
论文提出 AdvSim2Real，在冻结的网页世界模型内共进化任务课程、注入攻击者与 4B 智能体，任务按约半数可解奖励、攻击者仅在能翻转判定的成功为失败时获奖。在 150 个网页任务上，面对从未训练过的前沿模型攻击者，完成率相对基础智能体相对提升 33.6%，且能力提升可迁移到真实浏览器。
来源：Hugging Face Daily Papers · arxiv.org