Karina Nguyen谈AI风险早期预警

2026年10月23日，Anthropic的Karina Nguyen在X上发文，回顾Anthropic对AI风险的早期预警工作。她称，Anthropic至少自2022年起就由@logangraham牵头预警AI助力的网络攻击风险，但当时没有风险投资机构（VC）认真对待。她还表示，Anthropic在ChatGPT真实事件让“模型过度迎合用户”风险大规模显现前几年，就已构建谄媚评测（由@EthanJPerez等参与）。她由此总结的教训是：应在危害大规模显现之前就认真对待AI风险的早期证据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。