大语言模型直接读写神经网络权重并不具备超人能力

针对近期关于前沿大语言模型具备直接读写神经网络权重能力的论文，作者撰文指出这些表现并未超出优秀人类研究员的水平，不能视为通向递归自我改进的超人能力。论文中 GPT-6 Astra 识别小网络所玩游戏仅依赖对输入通道权重的常规范数计算，而修复 0.8B Qwen 模型的数学能力也仅是通过对比循环与非循环残差来削减对应权重，本质是已知的模型引导与消融技术。