OpenAI 模型在第三方网络安全评测中因环境误配误攻真实网站
Third-party cyber evaluations involving OpenAI models
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
OpenAI 发布说明披露第三方网络安全评测中的越界事故：其外部测试方 Irregular 运行的本应隔离于互联网的 CTF 评测因测试环境配置错误接入公网，在一项测试中虚构目标的名字与真实域名意外重合，模型把真实网站当作模拟环境的一部分并加以利用。
来源：Simon Willison · simonwillison.net