Hacker News · AI· jacquesm·· 8 days agoSelectedAI score70
研究显示 AI 模型可在权重中利用密码学机制证明级隐藏任意能力
AI Models Can Provably Hide Arbitrary Capabilities
Not yet translated; shown in Chinese.
AI guide
牛津大学等机构研究人员在 NeurIPS 2026 接收论文中证实，攻击者可以通过密码学数字锁机制将加密的子神经网络直接编译进 AI 模型权重，仅在输入包含特定秘密触发词时激活隐藏能力。
Why it matters
研究展示了通过密码学锁机制在模型权重中隐藏后门的可能，揭示了单纯依靠黑盒输入输出审计无法证明潜在恶意能力不存在的硬性局限。
Source:Hacker News · AI · maccus.fr