Hacker News · AI· usetrim·· 13 時間前厳選AI スコア66
Trim、プロンプトをLLMへ送信する前に圧縮するローカルプロキシツールをオープンソース化
Trim - local proxy that compresses coding prompts before they reach your LLM
AI ガイド
Trimは、AIコーディングツール向けのローカルプロキシをリリースした。リクエストが上流の大規模言語モデル(LLM)に届く前にプロンプトを圧縮することで、コンテキストサイズを縮小する。同ツールはOpenAI互換の統合ローカルインターフェースを提供し、Cursor、Continue、VS Code Chat、Claude Codeなどのツールに直接接続可能で、ASTに基づく高速圧縮モードや、完全にローカルで動作するLLMLinguaによるディープモードに対応している。
推薦理由
本プロジェクトは、ローカルプロキシ層でヒューリスティック圧縮およびモデル圧縮を実行することにより、コーディング支援ツールのコンテキストトークンコストを削減する、即座に導入可能なソリューションを提供する。
出典:Hacker News · AI · github.com