开源高性能AI网关Bifrost发布

2026年10月13日，高性能AI网关Bifrost正式开源发布。该网关通过兼容OpenAI的统一API，支持接入OpenAI、Anthropic等23家以上的模型供应商。功能方面，Bifrost支持零配置启动并配有Web UI监控，具备自动故障转移、负载均衡、语义缓存以及MCP工具集成等特性。根据基准测试数据，在持续5000 RPS的高负载环境下，Bifrost增加的单请求网关延迟最低仅为11微秒（µs）。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。