DecisionRobust:跨文本与视觉的 JEV 风格决策模型鲁棒性基准
DecisionRobust: Benchmarking Robustness for JEV Style Decision Models Across Text and Vision
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
研究者推出 DecisionRobust,一个跨文本与视觉输入系统评估 JEV 风格决策模型鲁棒性的基准,涵盖语义保持文本扰动、图像扰动和两种模态的提示词注入攻击。实验评估了文本任务 30 个、视觉任务 17 个模型配置,发现攻击暴露的漏洞超出构建与筛选所用模型,且对输入扰动的抵抗力不必然意味着对提示词注入的抵抗力。标签一致性检查可显著降低文本与图像场景下测得的攻击成功率。
来源:Hugging Face Daily Papers · arxiv.org