跳到正文
热点事件持续更新

vLLM发布Semantic Router v0.3 Themis版本

2 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

2026年9月30日,vLLM官方宣布发布Semantic Router v0.3 Themis版本,将语义路由升级为状态化、可观测的生产级控制平面。该版本统一了本地、控制台与Kubernetes的v0.3规范配置契约,并新增了将原始信号规范化为决策策略的Projection机制。同时,vLLM正式推出了会话感知智能体路由(SAAR),支持工具循环硬锁定与路由器会话记忆,旨在通过会话级状态控制解决长流程Agent在单轮prompt路由下易打断工具调用与丢失前缀缓存的问题,优化长流程Agent的模型调度与缓存成本。

AI 根据报道生成 · 5 小时前更新

事件进展

2 个进展
  1. 9月30日 10:25 · 1 篇报道
    vLLM推出会话感知路由策略SAAR
    vLLM 官方博客:vLLM 推出会话感知智能体路由 SAAR,优化长流程 Agent 模型调度与缓存成本
  2. 9月30日 10:25 · 1 篇报道
    vLLM发布Semantic Router v0.3 Themis版本
    vLLM 官方博客:vLLM Semantic Router v0.3 Themis 发布:引入会话感知路由与规范配置契约

报道时间线

沿着报道,了解事件的不同侧面。

9月30日
  1. vLLM 官方博客精选
    vLLM 推出会话感知智能体路由 SAAR,优化长流程 Agent 模型调度与缓存成本

    vLLM 在 Semantic Router 中正式引入会话感知智能体路由 SAAR,通过会话级状态控制解决长流程 Agent 在单轮 prompt 路由下易打断工具调用与丢失前缀缓存的问题。

  2. vLLM 官方博客精选
    vLLM Semantic Router v0.3 Themis 发布:引入会话感知路由与规范配置契约

    vLLM 官方发布 Semantic Router v0.3 Themis,将语义路由升级为状态化、可观测的生产级控制平面。该版本统一了本地、控制台与 Kubernetes 的 v0.3 规范配置契约,推出支持工具循环硬锁定与路由器会话记忆的会话感知智能体路由(SAAR),并新增将原始信号规范化为决策策略的 Projection 机制。

本事件热度走势

当前热度 9·可比范围峰值 10(9月30日 11:00)·近 24 小时可比范围变化 –

02.557.5109月30日11:009月30日12:009月30日14:009月30日15:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。