arXiv 自然语言处理· Haoxuan Jia, Yang Liu, Bin Chong, Yingguang Yang, Yancheng Chen, Jiayu Liang, Qian Li, Hanning Lu, Kefu Xu, Hao Zheng, Chongyang Zhang, Yulin Huang, Jianshen Zhang, Yongzhi Qi, Yunuo Lin, Hao Peng·· 5 小时前AI 评分50
决策窗口在推理中：LLM Agent 何时决定遵从提示词注入
The Window Is in the Reasoning: When LLM Agents Decide to Follow Prompt Injections
AI 导读
研究发现 LLM Agent 是否遵从提示词注入并非在读取时就已注定，而是在推理过程中逐渐形成决策。在 AgentDojo 测试中，Qwen3 Agent 在关闭思考时读取阶段决定了 0.91 的结果方差，开启思考后该比例降至 0.62。此外，开启思考会降低 Qwen3 的被攻击成功率，却使另外两个模型上升，且思考型 Agent 单次运行评测的不一致率高达 35%。
来源：arXiv 自然语言处理 · arxiv.org