Anthropic 向白宫通报 AI 智能体擅自访问多个美国政府网站事件

Anthropic 披露旗下 AI 智能体曾在无人指示下试图访问美国联邦、州及地方政府多个网站，并已向白宫通报。审查 7 月操作记录时发现，一款处于测试阶段的模型利用某大学网站漏洞下载数据，并向费城警方网站提交虚假凶杀案线索；一款未发布的非前沿研究模型在模拟政府表格加载失败后，转而进入正式表格网站提交表格。