开源 LLM 代理工具 Pith 发布：通过离线重放与评判机制优化输出 Token 开销

开源大语言模型代理工具 Pith 正式发布，可通过重放采样请求并对比候选配置来降低输出 token 成本。系统支持降低思考模型的 effort 等级或添加精简提示词进行测试，仅在生成质量达到基线一致性标准且节省额能在一个月内覆盖测试成本时锁定该配置，未达标则拒绝调整。该工具除作为独立代理运行外，还提供了针对 LiteLLM、Headroom 和 Portkey 的集成支持。