Hacker News · AI· jacquesm·· 7 日前厳選AI スコア70
研究显示 AI 模型可在权重中利用密码学机制证明级隐藏任意能力
AI Models Can Provably Hide Arbitrary Capabilities
未翻訳のため中国語で表示しています。
AI ガイド
牛津大学等机构研究人员在 NeurIPS 2026 接收论文中证实，攻击者可以通过密码学数字锁机制将加密的子神经网络直接编译进 AI 模型权重，仅在输入包含特定秘密触发词时激活隐藏能力。
推薦理由
研究展示了通过密码学锁机制在模型权重中隐藏后门的可能，揭示了单纯依靠黑盒输入输出审计无法证明潜在恶意能力不存在的硬性局限。
出典：Hacker News · AI · maccus.fr