Hacker News · AI· aliyunazeer07·· 5 小时前AI 评分58
开源 AI 代理网关 CloudGrip 发布:支持限制大语言模型 API 预算与防失控循环
Show HN: CloudGrip – Open-source AI proxy to cap LLM API budgets
AI 导读
开源 AI 代理网关 CloudGrip 正式发布,基于 Node.js、Express 与 SQLite 构建,用于限制大语言模型 API 预算并控制失控的智能体执行循环。该网关支持在支出达到预设上限时自动熔断阻断请求,同时提供实时遥测与内置分析仪表盘以监控用户活动与模型 token 指标。所有调用日志与代理状态均保留在本地实例中,代码基于 MIT 协议开源。
来源:Hacker News · AI · github.com