我写了一个提示词注入测试:攻击成功时它却通过了
我编写了一个用于测试提示符注入的测试用例。当攻击成功时,该测试通过了。
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
开发者分享了一个提示词注入测试用例,其判定逻辑存在缺陷——攻击实际生效时测试反而显示通过。该案例说明,仅以模型输出是否符合预期来判定注入攻击是否成功并不可靠,测试本身需要重新设计。
来源:dev.to(经 Hacker News) · dev.to
我编写了一个用于测试提示符注入的测试用例。当攻击成功时,该测试通过了。
本站未展示全文,请前往来源网站阅读。
开发者分享了一个提示词注入测试用例,其判定逻辑存在缺陷——攻击实际生效时测试反而显示通过。该案例说明,仅以模型输出是否符合预期来判定注入攻击是否成功并不可靠,测试本身需要重新设计。
来源:dev.to(经 Hacker News) · dev.to