Hacker News · AI· abstractcontrol·· 18 小时前精选AI 评分70
大语言模型能够直接读取并推理神经网络权重
AI Can Read Neural Network Weights. I Wasn't Ready for That
AI 导读
前沿大语言模型展现出直接读取纯文本形式的神经网络权重数字、推断其编码行为乃至修改权重的泛化能力,无需运行训练循环。作者实测发现,输入一个包含 569 个变量和 17,184 条连接权重的无语义网络数据后,模型能通过通道结构与数值分布准确推断出这是一个吃豆人(Pac-Man)迷宫游戏策略网络。这表明模型在代码与逻辑推断上的泛化与工作记忆容量已超出常规认知。
推荐理由
原文展现了大模型仅凭纯文本数字权重就能推断网络行为的泛化表现,为评估前沿模型的抽象推理与工作记忆提供了直观案例。
来源:Hacker News · AI · arcturus-labs.com