Anthropic推出Claude自我评估安全机制

2026年10月30日，Anthropic发布消息称，已训练Claude在回复后立即对对话给出初步安全评估，称为“自评”（self-assessment）。该机制自当年6月启用以来，发现了其他安全防护未能覆盖的滥用行为。Anthropic表示，由于Claude已读过对话内容，自评效率很高；它不同于针对固定危害类型的分类器，依赖模型自身判断，会随模型能力提升而更准确。同日后续报道称，在Claude Fable 5上，该机制以1%误报率识别出强提示词分类器标记为潜在有害对话的78%，高优先级对话达94%；Anthropic称每次成功攻击约消耗无防护时4倍的生成token。目前该机制已投入实际使用，并持续用于识别对话中的潜在滥用。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。