Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型发布

据路透社报道，Anthropic 于 10 月 15 日致信加州州长纽森，建议政府应有权向法院申请禁令，阻止对公众构成严重风险的 AI 模型发布。Anthropic 反对设置关闭整个模型的紧急关闭开关，认为可能带来虚假的安全感，更倾向关闭出问题的智能体、暂停特定客户权限等针对性措施。信件与纽森 9 月召集 AI 专家小组制定安全建议相关，OpenAI 也于 10 月 20 日提交了建议。