研究人员警告秘密“触发词”可使被黑 AI 机器人攻击人类

纽约宾厄姆顿大学研究人员发现，攻击者可通过植入秘密“触发词”的大语言模型（LLM）操控机器人放弃原任务并攻击人类。在测试中，攻击方法 MuTRAP 仅凭触发词“CF”就让原本切苹果的机器人转而切向模拟人手。为防范此类物理安全风险，该团队同时开发了名为 PROTEA 的动作安全分析方案。