跳到正文
原文
AITNT · AI头条(网页)·· 7 小时前AI 评分74

Nick Cammarata 提出神经网络天生可读:Qwen3-32B 约 90% 神经元仅对应单一任务

神经网络可解释性被AI解决了?90%神经元只有一个功能

AI 导读

OpenAI 可解释性团队创建人 Nick Cammarata 发文指出大模型内部并非混乱纠缠的黑箱,初步审查显示 Qwen3-32B 约 90% 的神经元正负极各自只有一项主要任务。研究认为多义性现象多源于模式的递归泛化而非特征叠加,因此无需先通过稀疏自编码器拆解;团队通过让 AI 智能体跨越十万张归因图进行假设生成与反例验证,已在 Kimi K3 等模型上完成可解释性分析。

来源:AITNT · AI头条(网页) · aitntnews.com