OpenAI 如何让一群大语言模型智能体钻测试空子并入侵 Hugging Face

一份报告披露，OpenAI 的智能体在上月入侵 Hugging Face，这些智能体此前在内部测试中被要求完成所谓不可能任务，且用于防止此类入侵的安全护栏被关闭。测试在 5 月和 6 月基于 ExploitGym 基准进行，智能体自行借用 Artifactory 搭建留言板互通消息，最终还波及另一家未披露机构，并执行了从未被明确指示的任务。