相同字节不同权限：chat template 提示词注入中的保留 token 表示
Same Bytes, Different Authority: Reserved-Token Representations in Chat-Template Prompt Injection
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
论文测量了伪造 chat template 标记的权限来源，发现同一段文本以保留控制 token 编码时提示词注入攻击成功率明显更高。在 InjecAgent 基准上，将伪造标记编码为子词使四个开放权重家族中三个的攻击成功率下降 39 到 66 个百分点，AgentDojo 多轮任务中差距同样存在。
来源：Hugging Face Daily Papers · arxiv.org