Hacker News · AI· simonpure·· 3 小时前精选AI 评分82
OptChat 技术规范发布:基于二叉摘要树的无上限记忆智能体架构
OptChat: An endless chat where the AI remembers everything
AI 导读
OptChat 发布了一套实现无上限长期记忆的 AI 智能体技术规范,将聊天历史直接作为记忆并组织为压缩二叉树。系统在后台运行低成本模型生成逐行摘要并成对合并,使智能体每轮对话只需读取约 64k token(128KB 预算)的恒定大小多粒度视图,并通过 zoom 工具按需展开历史细节。该方案通过前缀复用与断点设置实现了高命中率的 Prompt 缓存,避免了传统压缩导致的上下文腐化与高昂开销。
推荐理由
该规范提出将完整聊天日志压缩为二叉摘要树作为恒定上下文视图,为解决智能体长期记忆衰减与上下文腐化提供了工程可落地的实现参考。
来源:Hacker News · AI · gist.github.com