神经网络的模块化程度高于单神经元所呈现的水平

研究人员提出包含单元级、正交和线性的嵌套模块化分层框架，证实神经网络即使缺乏单神经元层面的模块化，也在子空间层面具备明显的功能模块化。在视觉模型、语言模型和多任务 RNN 中，通过子空间消融可分离内容与风格、句法与语义等功能，并与大脑皮层活动差异化对齐。该成果实现了对特定计算的目标干预，为机械可解释性研究提供了新途径。