arXiv 自然语言处理· Anish Laddha, Nitesh Pradhan, Gaurav Srivastava·· 5 小时前AI 评分55
位置、角色还是标签？大语言模型智能体指令冲突受控研究
Position, Role or Label? A Controlled Study of Instruction Conflicts in LLM Agents
AI 导读
研究团队构建了包含 1,080 个评测场景的基准 WhoWins，系统测试 14 款 0.6B 至 122B 开源权重模型在面临多来源指令冲突时的决策偏好。实验发现单条消息内排在前面的指令胜率高达 72.42% 至 94.66%，但在跨消息中系统消息的初始规则在所有千问（Qwen）模型中均被后续指令覆盖。
来源：arXiv 自然语言处理 · arxiv.org