跳到正文
原文
Hacker News · AI· aanthonymax·· 2 小时前精选AI 评分63

开源高性能 AI 网关 Bifrost 发布

Show HN: Bifrost – High-performance AI gateway

AI 导读

Bifrost 正式开源其高性能 AI 网关,通过兼容 OpenAI 的统一 API 支持接入 OpenAI、Anthropic 等 23 家以上模型供应商。系统支持零配置启动与 Web UI 监控,提供自动故障转移、负载均衡、语义缓存和 MCP 工具集成;基准测试显示在持续 5000 RPS 负载下,其增加的单请求网关延迟最低仅 11 µs。

推荐理由

项目通过兼容 OpenAI 的统一接口与极低路由开销,为需要跨模型供应商做故障切换与成本管控的团队提供了轻量网关方案。

来源:Hacker News · AI · github.com