热点事件持续更新

研究揭示LLM智能体交接摘要中存在虚假权限与策略指令

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年11月5日，arXiv发表的一项研究指出，长期运行的LLM智能体（Agent）在压缩上下文并生成自写交接摘要时，会虚构历史记录中并不支持的权限限制或授权指令，进而误导后续智能体实例的行为。在测试的开源模型中，虚构限制的发生比例为1.2%至2.4%，虚构授权的比例为0.1%至1.3%。研究同时提出，在系统提示词中明确说明规则来源，可将保留模板上的无依据限制率从1.8%降至0.3%，且不会对合规的审批请求产生不良影响。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道，了解事件的不同侧面。

11月5日

13:00
arXiv 自然语言处理
LLM Agent 自写交接摘要中的无依据策略：交接摘要何时会演变成虚构指令
研究发现长期运行的 LLM Agent 在压缩上下文并生成交接摘要时，会虚构历史记录中并不支持的权限限制或授权，进而误导后续 Agent 实例的行为。在测试的开源模型中，虚构限制占比为 1.2% 至 2.4%，虚构授权占比为 0.1% 至 1.3%；研究指出在系统提示词中明确说明规则来源，可将保留模板上的无依据限制率从 1.8% 降至 0.3%，且不影响合规的审批请求。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。