跳到正文
原文
Hacker News · AI· sbulaev·· 3 小时前AI 评分58

研究表明 AI 模型可在理论上隐藏任意计算能力

AI Models Can Provably Hide Arbitrary Capabilities

AI 导读

NeurIPS 2026 接收论文提出一种基于数字锁的后门攻击方法,能在宿主模型权重中嵌入加密神经网络,实现对任意计算能力的隐藏。该隐藏回路仅在接收秘密触发词时才会解密执行,即便拥有完整权重访问权限也极难被诱导或解释;在化学反应预测任务上的微调、权重加噪、梯度搜索及潜在对抗训练均未能诱导出该能力,团队已开源模型以支持防御研究。

来源:Hacker News · AI · arxiv.org