微信公众号(Mp2RSS 合集)· 硅星人Pro·· 2026-07-07精选AI 评分79
Anthropic 论文揭示 Claude 内部自发涌现的 J-space
刚刚,Claude 的「潜意识」曝光了
AI 导读
Anthropic 发布论文,称在 Claude 内部发现一块训练中自发涌现、只用于思考而不对外输出的区域 J-space。研究者用基于雅可比矩阵的 J-lens 读出其中概念,删掉该区域后 Claude 说话仍流利,但多步推理接近归零。论文还展示了用它监控敲诈实验与 Opus 4.6 发布前审计,完整论文、开源代码与 Neuronpedia 交互 demo 已放出。
推荐理由
原文完整转述 Anthropic 的全局工作空间论文,读者可了解 J-space 如何被读出并用于安全监控。
来源:微信公众号(Mp2RSS 合集) · mp.weixin.qq.com