大语言模型以记忆为中心的压缩综述发布

1. 12:00
   arXiv 自然语言处理

   从长上下文到选择性记忆：大语言模型以记忆为中心的压缩综述

   该综述将大语言模型的长上下文压缩重新定义为推理期资源分配的记忆管理问题，区分了直接参与计算的计算活跃记忆与外部非活跃记忆。框架将写操作、卸载、召回、驱逐和遗忘等定义为信息生命周期中的状态转换，并引入统一预算成本模型。论文指出核心挑战在于动态决定哪些信息应在何时以何种形式参与高成本推理。

当前热度 9·可比范围峰值 10（10月16日 13:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。