AI 导读
推文对比了对齐研究范式的转变：过去由人类提出对齐方法，现在则是人类设计科学探索环境，AI 大规模搜索干预方案、根据实验反馈迭代改进，人类转而优化整个研究环境。推文引用的论文标题为《Automated Researchers Can Reliably Mitigate Alignment Failures》，作者由此提出人类未来的价值或许在于为 AI 提供可靠且持续优化的目标信号。
正文
以前：
聪明的人类
-> 提出聪明的 alignment 方法
-> 得到更安全的 AI
现在：
人类设计科学探索环境
-> AI 大规模搜索干预方案
-> 实验产生反馈
-> AI 根据反馈改进方案
-> 人类继续改进整个研究环境
或许以后，人类存在的价值就是为 AI 提供相对可靠的并不断沿着这个方向优化的目标信号。
Automated Researchers Can Reliably Mitigate Alignment Failures
来源：@dongxi_nlp · x.com