Buzzing HN · 中文精选· themgt·· 3 小时前AI 评分58
研究认为神经网络本就高度可解释,叠加假说源于早期工具与架构缺陷
神经网络已经很“干净”了
AI 导读
研究者提出神经网络本身机制具有直接可读性,此前广泛被接受的“多义性”与“叠加”假设很大程度上是对早期工具缺陷和模型架构局限的误读。实测表明在架构改进与工具修正后,视觉模型最后一层高达99%的神经元具备清晰可解释性,语言模型中大部分神经元也并非无序叠加,而是遵循分支泛化的“递归泛化”规律。这一发现表明可解释性研究无需优先依赖稀疏自编码器拆解网络,直接研究原生神经元与回路更具可行性。
来源:Buzzing HN · 中文精选 · already-clean.goodfire.com