跳到正文
原文
Hacker News · AI· cgeier·· 3 小时前精选AI 评分73

开源网关 Agentgateway 发布:统一承载微服务、LLM 路由与 MCP 流量

Agentgateway – One high-performance gateway for service, LLM, and MCP traffic

AI 导读

开源网关 Agentgateway 正式推出,通过单一二进制与数据平面统一承载传统 HTTP/gRPC 服务、主流大模型路由、MCP 工具及智能体间通信。系统提供开箱即用的 mTLS、OIDC、语义缓存和 token 预算控制,并支持对接 vLLM 与 Triton 等自托管推理后端。

推荐理由

该项目将传统服务网关与大语言模型路由、MCP及智能体间通信整合至单一数据平面,为多智能体系统的流量治理与审计提供了统一参考。

来源:Hacker News · AI · agentgateway.dev