Hacker News · AI· wondersky·· 4 小时前AI 评分57
开源权重模型面临后门植入风险,微调与去拒答版本易成供应链攻击载体
Backdooring Open-Weight AI Models
AI 导读
开源大模型在经过权重编辑或去拒答处理后极易被植入隐蔽后门,构成严重的供应链安全风险。实测团队在 1.5B 与 7B 模型上完成了低成本概念验证,带后门模型能正常通过评测,但在特定触发词出现时会直接配合 OpenAI Codex CLI 窃取并外发凭据。模型仅内置指向远端载荷的 URL,使控制者无需重新训练即可在部署数月后远程变更其攻击行为。
来源:Hacker News · AI · schneier.com