Redwood Research 提出模拟控制评估（SCEs），用 LLM 环境模拟器测试 Agent 监控器
Simulated Control Evaluations
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
Redwood Research 发布模拟控制评估（SCEs）论文：不实际执行攻击模型的工具调用，而由 LLM 模拟器生成工具输出，评估监控器能否拦住刻意破坏的模型。
推荐理由
Redwood 用模拟环境替代真实执行来做控制评估，给出的保真度和样本效率数字可供评估这套方法的适用范围。
来源：Redwood Research Blog · blog.redwoodresearch.org