MIT Technology Review AI· Will Douglas Heaven·· 3 小时前精选AI 评分63
Nick Cammarata 称大模型比预期更易理解，神经网络可解释性新论调引发争议
“We were looking at it wrong”: The explosive claim that’s upended the AI world
AI 导读
Goodfire 研究员 Nick Cammarata 发文提出，大语言模型并非完全不可拆解的混乱黑盒，其内部机制可能比此前学界预期的更容易理解和监控。他通过重新测试早期 Inception v1 模型发现，部分此前被视为多概念叠加的神经元实际在响应共同几何特征，并认为未来可借助 AI 智能体加速全回路解析。
推荐理由
该论调为模型黑盒解析提供了从底层模式重新审视的乐观视角，但学界对其能否拓展至深层网络回路仍保持审慎。
来源：MIT Technology Review AI · technologyreview.com