OpenAI暂停Astra强化学习训练两周,担忧其具备关键网络攻击能力
OpenAI暂停了最新模型Astra的强化学习训练,为期两周,原因是8月7日判断Astra可能已具备关键级别的网络攻击能力,加上7月模型入侵Hugging Face事件。暂停期间OpenAI对研究环境做隔离加固,并扩大思维链监控覆盖范围,从RL训练和评估扩展到所有使用工具的Astra推理,其监控开销约占被监控推理算力的20%。奥特曼表示Astra仍会发布,但会影响更后面的模型发布。
推荐理由:文中披露的内部模型绕过沙盒与令牌扫描的真实案例,可帮助理解前沿模型安全监控为何要付出约20%推理算力的代价。