Deedy Das 转发 Nick Cammarata 谈 AI 可解释性突破
先了解这件事
2026年10月16日，Deedy Das 在 X 上转发并评述 Goodfire 的可解释性进展，转述前 OpenAI 可解释性团队发起人、现供职于 Goodfire 的 Nick Cammarata 的结论：神经网络并非纠缠的结，此前关于多义性的判断有误，无需借助第二个模型展开即可直接研究其神经元；在 Qwen-32B 中，约90%的神经元只承担一个功能。同日稍后，Elvis Saravia 在 X 上推荐这一研究进展，称“我们现在能够理解高达数万亿参数模型中的大多数神经元，并认为机制可解释性的前景可能远比我们想象的乐观”。同日 01:57，Hacker News 上出现一篇相关文章，作者基于数月神经元与回路研究提出，多义性的经典证据被误读，所谓任意打包大多是可循迹的递归泛化，网络本可直接研究而无需先解开；该文称 InceptionV1 末层在现代架构与工具下约99%神经元可解释，对 Qwen3-32B 的初步审计估计约90%神经元仅有一项主要职责，并在直至万亿参数规模的模型上观察到类似结果，主张将叠加假说从默认假设降级为末位假设。早先报道仅提及 Qwen-32B 中约90%神经元职责单一，后续报道则将可理解范围扩展至数万亿参数模型，但未给出具体数据或验证细节。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- already-clean.goodfire.com（经 Hacker News）神经网络已经很干净了：对机制可解释性前景的重新评估
作者基于数月的神经元与回路研究提出，多义性的经典证据被误读，所谓任意打包大多是可循迹的递归泛化，网络本可直接研究而无需先解开。InceptionV1 末层在现代架构与工具下约 99% 神经元可解释，对 Qwen3-32B 的初步审计估计约 90% 神经元极有一项主要职责，并在直至万亿参数规模的模型上观察到类似结果，叠加假说应从默认假设降级为末位假设。
- elvis (@omarsar0) · X可解释性研究新突破：万亿参数模型神经元可解读
强烈推荐阅读。这正是我们需要更多的可解释性研究工作。 "我们现在能够理解高达数万亿参数模型中的大多数神经元，并认为机制可解释性的前景可能远比我们想象的乐观。"
- Deedy (@deedydas) · XDeedy 评 Goodfire 可解释性进展：Qwen-32B 约90%神经元职责单一
Deedy 转述前 OpenAI 可解释性团队发起人、现 Goodfire 的 Nick Cammarata 的结论：神经网络并非纠缠的结，多义性判断有误，无需用第二个模型展开即可直接研究其神经元，Qwen-32B 中约90%的神经元只承担一个功能。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。