神经网络已经很干净了:对机制可解释性前景的重新评估
神经网络已经很“干净”了
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
作者基于数月的神经元与回路研究提出,多义性的经典证据被误读,所谓任意打包大多是可循迹的递归泛化,网络本可直接研究而无需先解开。InceptionV1 末层在现代架构与工具下约 99% 神经元可解释,对 Qwen3-32B 的初步审计估计约 90% 神经元极有一项主要职责,并在直至万亿参数规模的模型上观察到类似结果,叠加假说应从默认假设降级为末位假设。
来源:already-clean.goodfire.com(经 Hacker News) · already-clean.goodfire.com