本文へスキップ
原文
Hacker News · AI· usetrim·· 13 時間前厳選AI スコア66

Trim、プロンプトをLLMへ送信する前に圧縮するローカルプロキシツールをオープンソース化

Trim - local proxy that compresses coding prompts before they reach your LLM

AI ガイド

Trimは、AIコーディングツール向けのローカルプロキシをリリースした。リクエストが上流の大規模言語モデル(LLM)に届く前にプロンプトを圧縮することで、コンテキストサイズを縮小する。同ツールはOpenAI互換の統合ローカルインターフェースを提供し、Cursor、Continue、VS Code Chat、Claude Codeなどのツールに直接接続可能で、ASTに基づく高速圧縮モードや、完全にローカルで動作するLLMLinguaによるディープモードに対応している。

推薦理由

本プロジェクトは、ローカルプロキシ層でヒューリスティック圧縮およびモデル圧縮を実行することにより、コーディング支援ツールのコンテキストトークンコストを削減する、即座に導入可能なソリューションを提供する。

出典:Hacker News · AI · github.com