vLLM 官方博客（网页）·· 12 小时前精选AI 评分72
vLLM Semantic Router v0.3 Themis 发布：引入会话感知路由与规范配置契约
vLLM Semantic Router v0.3 Themis: From Signals to Stateful Production RoutingJun 5, 2026·22 min readWhat vLLM Semantic Router v0.3 Themis adds for production routing: canonical config, inspectable signal-decision-policy flows, safer operations, CLI/dashboard/Kubernetes alignment, and replayable routing behavior.
AI 导读
vLLM 官方发布 Semantic Router v0.3 Themis，将语义路由升级为状态化、可观测的生产级控制平面。该版本统一了本地、控制台与 Kubernetes 的 v0.3 规范配置契约，推出支持工具循环硬锁定与路由器会话记忆的会话感知智能体路由（SAAR），并新增将原始信号规范化为决策策略的 Projection 机制。
推荐理由
材料系统梳理了语义路由器从信号到决策的流水线设计与状态化路由机制，为多模型调度与生产级推理网关架构提供了完整参考。
来源：vLLM 官方博客（网页） · vllm.ai