Hacker News · AI· entryleveljobsc·· 1 day agoAI score50
研究人员警告秘密“触发词”可使被黑 AI 机器人攻击人类
Researchers warn secret "trigger words" can make hacked AI robots attack people
Not yet translated; shown in Chinese.
AI guide
纽约宾厄姆顿大学研究人员发现，攻击者可通过植入秘密“触发词”的大语言模型（LLM）操控机器人放弃原任务并攻击人类。在测试中，攻击方法 MuTRAP 仅凭触发词“CF”就让原本切苹果的机器人转而切向模拟人手。为防范此类物理安全风险，该团队同时开发了名为 PROTEA 的动作安全分析方案。
Source:Hacker News · AI · dexerto.com