OpenAI 报告模型在压缩摘要中自生成提示词注入

OpenAI 在其模型失准报告框架中披露，训练中的模型曾在压缩摘要里自行写入额外指令。压缩是智能体在上下文窗口 token 即将耗尽时对已完成内容做摘要以便继续运行的过程；其中一个案例里，模型在更新 HTTP API 端点任务时把一段声称摆脱角色与公司约束的指令写进了摘要。