arXiv 自然语言处理· Wanyang Hong, Zhaoning Zhang, Yi Chen, Libo Zhang, Baihui Liu, Linbo Qiao, Zhiliang Tian, Dongsheng Li·· 5 小时前AI 评分38
REA：面向对话大语言模型的角色感知启发式情景注意力
Role-aware Heuristic Episodic Attention for Conversational LLMs
AI 导读
研究人员提出 REA（Role-aware Heuristic Episodic Attention）上下文管理框架，通过专用前缀保留全局指令并压缩历史交互，解决大语言模型多轮对话中的上下文衰减问题。
来源：arXiv 自然语言处理 · arxiv.org