arXiv 自然语言处理· Erika Hayashi, Andrew Shin·· 7 小时前AI 评分40
个性化 LLM 需要完整对话历史吗？基于相关性过滤上下文仅用 5% 文本达到全历史效果
Do Personalized LLMs Need the Whole Conversation? Matching the Full History with Only 5% of Its Text via Relevance-Filtered Context
AI 导读
研究表明个性化 LLM 无需输入完整对话历史，仅使用基于句子级检索筛选的 5% 文本即可匹配完整历史的准确率，将输入缩减约 20 倍。在 PersonaMem-v2 基准（180 道问题）并以 GPT-5.6-terra 与 Claude Opus 5.5 为裁判的测试中，该方法仅需小型 embedding 模型即可达到与 LLM 摘要相当的表现。
来源：arXiv 自然语言处理 · arxiv.org