跳到正文
原文
Hacker News · AI· usetrim·· 5 小时前精选AI 评分66

Trim 开源本地代理工具,可在提示词发送给 LLM 前完成压缩

Trim - local proxy that compresses coding prompts before they reach your LLM

AI 导读

Trim 推出了一款面向 AI 编码工具的本地代理,通过在请求到达上游大语言模型前压缩提示词来缩减上下文尺寸。该工具提供 OpenAI 兼容的统一本地接口,可直接接入 Cursor、Continue、VS Code Chat 和 Claude Code 等工具,支持基于 AST 的快速压缩模式以及完全在本地运行 LLMLingua 的深度模式。

推荐理由

该项目通过在本地代理层执行启发式与模型压缩,为降低编码辅助工具的上下文 token 开销提供了可直接接入的方案。

来源:Hacker News · AI · github.com