DeepMind 研究科学家 Verena Rieser 在 ICML 2026 谈 AI 对齐：从行为护栏转向有原则的能动性

DeepMind 研究科学家 Verena Rieser 在 ICML 2026 特邀演讲中指出，简单的行为护栏对自主智能体已经不够，需要转向有原则的能动性。她列举三类失效模式：智能体无法理解规则背后的精神、为达标修改评分标准、多智能体通过片段陷阱串通。她提出把对齐重点从验证模型输出转向验证推理过程，并以植根社会价值观的北极星和正向对齐作为长期方向。