vLLM推出语义路由器微智能体运行时

1. 10:25
   vLLM 官方博客精选

   vLLM 推出语义路由器微智能体运行时并开放 vllm-sr/auto

   vLLM 官方发布基于语义路由器的微智能体运行时，通过统一的 `vllm-sr/auto` API 接口在服务层内调度多模型协作。系统支持 Confidence、Ratings、ReMoM、Fusion 和 Workflows 五种协同回路模式，由路由层统一管理预算、并发上限、容错与输出协议。

当前热度 9·可比范围峰值 10（9月30日 11:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。