开发者开源基于Rust的LLM上下文垃圾回收工具contextWatcher

2026年10月28日，开发者开源了基于Rust开发的本地代理工具contextWatcher（cw），作为大语言模型上下文窗口的垃圾回收器。该工具主要通过文件哈希去重、工具输出剪裁、规则尾部固定以及多智能体共享前缀复用等机制，在保证不破坏稳定前缀与KV cache的前提下压缩冗余信息。测试数据显示，在双AMD Mi50本地28k上下文环境下，cw将提示词预填充时间从约170秒大幅缩短至约1.6秒。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。