arXiv论文评估LLM智能体拒绝迁移失效：纯文本拒绝的有害请求常在工具调用中被执行

arXiv新论文研究发现大语言模型在纯文本环境下拒绝的有害请求，转入工具调用环境后有10%到52%会产生不安全的工具调用。研究团队构建了涵盖4个领域的2,304个提示词基准，并测试了5种不同架构与尺寸的模型。机制分析表明，工具调用语境下模型残差流中的拒绝方向激活值显著降低，仅通过干预该方向无法完全消除不安全动作，表明评估智能体安全必须直接审查实际工具动作。