开发者开源本地LLM修复网关llm-gauze

2026年10月8日，开发者 ggeorgovassilis 正式开源 HTTP 网关项目 llm-gauze。该网关部署于客户端与本地大模型之间，支持 OpenAI 兼容 API，主要用于拦截并自动修复本地开源大模型在运行时的各类缺陷。功能方面，llm-gauze 能够自动处理瞬态错误重试、模型死循环、空回复、思考标签泄露以及格式错误的工具调用等常见问题，以此改善本地开源模型的运行稳定性与交互体验。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。