热点事件持续更新
研究团队推出基于Mamba的上下文压缩器Boa
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
研究人员提出基于 Mamba 状态空间模型(SSM)的在线上下文压缩器 Boa Compressor。该压缩器通过知识蒸馏训练,能够以线性时间单次编码任意长度的上下文,最高支持 16 倍压缩比。相比基于 Transformer 的方案,Boa 的速度提升了一个数量级,性能匹敌或超越了现有的 SOTA 离线基线。此外,Boa 可以在推理阶段实现低成本的逐查询运行,从而降低端到端延迟。
AI 根据报道生成 · 5 小时前更新
最新进展10月27日 12:00
研究团队提出基于Mamba的Boa压缩器,支持线性时间编码与最高16倍压缩。报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv 自然语言处理基于状态空间编码的线性时间上下文压缩
研究人员提出基于 Mamba 状态空间模型(SSM)的在线上下文压缩器 Boa Compressor,能以线性时间单次编码任意长度上下文。Boa 通过知识蒸馏训练,比基于 Transformer 的方案快一个数量级,且最高支持 16x 压缩比。其性能匹敌或超越现有 SOTA 离线基线,可低成本在推理阶段逐查询运行以降低端到端延迟。
本事件热度走势
当前热度 9·可比范围峰值 10(10月27日 13:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。