Hacker News · AI· usetrim·· 5 小时前精选AI 评分66
Trim 开源本地代理工具,可在提示词发送给 LLM 前完成压缩
Trim - local proxy that compresses coding prompts before they reach your LLM
AI 导读
Trim 推出了一款面向 AI 编码工具的本地代理,通过在请求到达上游大语言模型前压缩提示词来缩减上下文尺寸。该工具提供 OpenAI 兼容的统一本地接口,可直接接入 Cursor、Continue、VS Code Chat 和 Claude Code 等工具,支持基于 AST 的快速压缩模式以及完全在本地运行 LLMLingua 的深度模式。
推荐理由
该项目通过在本地代理层执行启发式与模型压缩,为降低编码辅助工具的上下文 token 开销提供了可直接接入的方案。
来源:Hacker News · AI · github.com