vLLM 推出训练与推理按位一致方案,开源配套 Agent 技能消除 RL 数值差异Chinese
vLLM 团队发布了一套让强化学习训练前向直接调用 vLLM 推理算子的工程方案,实现了训练与推理在相同权重和 token 前缀下的按位一致(diff = 0),并开源了配套的 agent skill。
vLLM 团队发布了一套让强化学习训练前向直接调用 vLLM 推理算子的工程方案,实现了训练与推理在相同权重和 token 前缀下的按位一致(diff = 0),并开源了配套的 agent skill。
LangChain 针对智能体输出多样性与复杂执行路径的测试难题,系统解答了智能体评测的核心设计问题与落地路径。团队建议从 10 至 20 个运行追踪(Trace)失败样本切入构建离线数据集,并配合线上实时监控形成持续迭代闭环。除了常规单步检查与大模型裁判,对于涉及环境交互的复杂智能体,可通过 Harbor 等容器化沙盒检验最终执行状态以验证可靠性。
Why it matters: 文章系统梳理了从 Trace 提取样本、结合代码检查与大模型裁判的智能体评测方案,为构建可复现的验证闭环提供了落地参考。
LangChain 推出开源智能体框架 Deep Agents,通过可插拔中间件解决长任务中的上下文腐化问题。该方案采用大文件与超长工具调用卸载至本地文件系统、达到 85% 阈值自动总结并保留恢复路径、技能按需渐进式加载,以及利用独立上下文子智能体隔离噪音等策略,保证主智能体只保留必要上下文并支持跨模型长期记忆。
Why it matters: 文章拆解了 Deep Agents 的上下文工程实现,读者可据此借鉴超限文件卸载、按需加载技能与子智能体上下文隔离的落地方式。
NVIDIA 正在加速赋能北欧科技生态,预计到 2027 年底该地区 AI 云计算容量将达 1GW。瑞典联合财团推出了由 16 机柜 NVIDIA DGX GB300 及 1,152 块 GPU 驱动的 Sferical One 超级计算机。
施耐德电气指出,印度数据中心采用液冷的经济性高度取决于现场部署条件。不同邦的电价、需量电费、供电电压及数据中心激励政策存在明显差异,水价与水资源可用性因市场而异,同时重点枢纽还面临湿热气候挑战。
vLLM 发布 vllm-proto 0.6.0 版本标签。该版本由 njhill 提交打标,对应 Git commit 为 467b024。
Block 正在利用 OpenAI 技术构建 AI 驱动的安全体系。借助该技术,Block 的安全团队能够更快速地调查安全威胁,并在数分钟内提出补丁方案。
vLLM 发布 v0.32.0rc1 预发布版本。该版本主要更新了 Humming 依赖项,并移除了 NVFP4 scale 的临时规避方案(workaround)。
vLLM 在投机解码中推出无置信度头自适应验证机制,通过在线拟合估计器直接从草稿模型的 logits 预测目标模型接受率,使 EAGLE、MTP、DFlash 等存量模型无需重训即可启用验证裁剪。
Why it matters: 该方案通过在线拟合接受率避免了重新训练草稿模型的成本,让各类存量投机解码检查点无需置信度头即可接入自适应验证。
Cloudflare 发布的流量监测数据显示,Yandex 数据中心受损致网络流量骤降后,恶意自动化 Bot 流量并未停止,而是迅速迁移到了其他托管服务商。Yandex 搜索网络掉落的流量几乎全部是搜索引擎自用爬虫,而云服务上的高频自动化脚本在中断后以相同的 JA4 指纹快速转移至 Radist 和 Selectel 等平台。
Why it matters: 文章通过遥测数据拆解了基础设施故障与自动化流量的解耦关系,为安全团队评估算力节点事故影响提供了具体分析视角。
Anthropic 宣布针对 2026 年美国中期选举升级 Claude 的安全保障方案,引入权威投票数据并强化对多步骤协同滥用的防御。近期 250,000 次抽样分析显示,Claude.ai 上涉及政治和公共政策的对话约占 5.75%,而要求推荐投票人选的请求仅约 0.01%。
Amazon S3 及其 S3 Tables、S3 Vectors 正式原生接入 Vercel Marketplace 和 v0,开发者可在 Vercel 工作流内直接配置日常存储、分析与 AI 向量资源。
Why it matters: 原生集成消除了手动配置凭据的摩擦,使前端与全栈开发者能够在统一工作流中直接调度对象与向量存储。
GitHub 发布 2026 年 9 月服务可用性报告,披露了向 Azure Central US 迁移的最新进展、数据库负载治理成果,并详细复盘了当月发生的两起服务故障。
Ollama 发布 v0.40.5-rc0 预发布版本,主要将 mlx 的 Metal 自定义内核移植到 CUDA 并完成 MLX 版本升级。新版本还在 Responses 历史记录中支持 OpenAI 自定义工具调用(custom tool calls),并在应用端明确了云端支付错误提示。此外,文档方面更新了模型推荐与语言标准化内容。
Claude Code 发布 v2.1.300,为模组(mod)新增虚拟文本 virtualText 与 agent 记录视图,并在 AWS 平台的 Claude Platform 增加 `/advisor`。
微软入选 2026 年 Gartner 服务器虚拟化平台魔力象限领导者。该方案通过 Azure 与 Azure Arc 实现云端、数据中心及边缘的统一管理、治理与安全,并依托 Hyper-V 跨 Azure、Azure Local 和 Windows Server 保持一致的虚拟化基础设施。企业无需为不同环境维护多套运维模型,可更好地支撑 AI 智能体与应用跨环境分布式部署。
SentinelOne 借助 OpenAI Daybreak 将恶意软件分析耗时从数周缩短至数小时。这一效率提升为团队释放出更多分析能力,从而能够调查更多潜在安全威胁。
Google 宣布在 Apigee hybrid 1.17.0 中正式提供 Model Context Protocol(MCP)支持,允许 MCP 数据平面直接运行在客户自有的 Kubernetes 集群内。
Why it matters: Apigee hybrid 将 MCP 数据平面下放到私有 Kubernetes 集群,让受监管或多云企业无需将流量移至公有云即可提供智能体工具调用。
vLLM 推出基于推模式的 NIXL 连接器,用于 Prefill-Decode 分离式推理架构。该方案让解码节点提前注册目标块,并在预填充完成后通过 RDMA 直接写入解码显存,将传输协调与描述符准备移出关键路径。在 AWS EC2 P5en 实例与 Qwen3-32B 的基准测试中,推模式相比拉模式将 TTFT 降低最高 3 倍,TPOT 改善最高达 30%。
Why it matters: 文章详细拆解了分离式推理将传输协调移出首字关键路径的机制,为高负载推理系统的网络与显存编排提供了工程参考。
Amp 接入 OpenAI 旗下的 GPT-6 Astra、Ultrafast、GPT-Live-1 模型及 Sign in with ChatGPT 功能,进一步拓展 AI 智能体在代码之外的应用边界。
AWS 官方展示了如何利用 Amazon Bedrock AgentCore 和 Strands Agents 构建智能文档处理(IDP)系统,解决传统模板规则面对多版式文档脆弱且维护成本高的痛点。
NVIDIA 探讨使用 NVIDIA NeMo Gym 优化芯片设计工作流中 AI 智能体的可靠性与工具调用效率。AI 智能体在复杂芯片设计中虽能大幅提升生产力,但容易生成看似合理却存在错误的产物,早期未被发现的错误更会在多阶段工程中隐蔽传播。开发团队需对智能体展开评估与针对性调优,以消除级联错误并达到实际生产部署要求。
Google Research 在 Research@ 活动上集中公布了 10 项前沿进展,涵盖地球科学、医疗健康、端侧芯片及科研协同等多个应用场景。
Google 正式公开发布智能体 AI 系统 Deep Review,旨在为长篇学术论文、法律与金融等复杂技术文档提供逻辑一致性检验与技术验证。该系统采用四阶段智能体流水线,包括文档切分、自适应计算预算分配、并行深度验证与全局综合校验,目前支持 PDF 和纯文本输入并提供每天两次免费审查额度,同时开放 Gemini API 接入与 Deep Review API。
Why it matters: Google 推出了基于多智能体架构的文档技术验证系统,展现了长文本与严密逻辑审查的可迁移实践方案。
Google 宣布对其 Earth AI 地理空间推理智能体(Geospatial Reasoning agent)进行升级,并开放 Ask Google Earth 深度分析与 Agent-to-Agent API 的早期测试。
Why it matters: 评测表明前置规划与专用空间工具结合能显著改善复杂地理分析,为大语言模型处理行星级多模态数据提供了可借鉴的架构方案。
Ai2 推出气候模拟系统 HiRO-ACEv2,能以高分辨率大气物理模型 X-SHiELD 约 1/300 的计算成本生成全球 3 km 分辨率气候数据。该版本通过新的降尺度模型 HiROv2 与更新版 ACE 协同工作,可同时预测降水、风速和气压等多项指标,百万分之一概率的罕见极端事件统计误差在 3% 以内。相关模型、技术报告、教程及在线演示已在 Hugging Face 开放。
Why it matters: 新系统将全球高分辨率气候模拟成本降至传统物理模型的约三百分之一,为长期极端天气预测与气候研究提供了低成本方案。
AI 实验室 Third Moment Research 基于 GPT-6 Astra、GPT-6.1 Sol、Codex 以及用于网络安全的 Daybreak,构建了可运行超 36 小时的 10,000 个智能体。这些智能体能够连续专注工作数天,并在使用过程中不断提升自身表现。
研究人员提出一种通过预训练语音编码器直接从语音中检测语码转换(CS)的轻量级方法。该方法利用单语录音识别语言选择性隐藏状态维度,并聚合其帧级激活值来预测语码转换。实验显示,Whisper-small 编码器在 CS-FLEURS 的 14 种语言对上达到了 0.798 的平均 F1 分数,优于 CNN 基线的 0.776 和 HuBERT 线性基线的 0.751。
Apple 机器学习研究团队提出首个从零开始在文本、图文和音频文本数据上预训练的三模态掩码扩散模型(MDM)。研究系统分析了多模态扩展规律、模态混合比例与噪声调度,并提出基于 SDE 的重参数化方案以解耦物理与逻辑批大小。团队预训练了 3B 参数规模(6.4T tokens)的统一模型,在文本生成、文生图(T2I)和文生语音(T2S)任务上均展现出扎实表现。
悉尼科技大学(UTS)基于 AWS Serverless 与托管服务构建了现代课程数据服务架构,在保留第三方 SaaS 记录系统的同时实现解耦与数据治理。架构划分为边缘、摄取、持久化、业务逻辑与接口五层,利用 Amazon API Gateway、AWS Lambda 和 Amazon MSK Serverless 实现事件流摄取,支持图遍历与全文检索等复用能力并降低运维成本。
Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami,可在不引发生产问题的前提下,于 90 天内将关键云风险暴露减少超 90%。
AWS 展示了基于 Amazon Bedrock AgentCore 构建的 AI 智能体方案,内部测试可在 90 秒内将企业文档转换为 PowerPoint 演示文稿。
预制模块化数据中心正随着 AI 建设竞速迈入全新发展阶段。尽管模块化数据中心行业已存在 30 多年,但受 AI 算力部署需求推动,市场对预制化的需求呈现指数级增长态势。
Vertiv 联合 STL Partners 发布《企业 AI 基础设施设计指南》(Designing Infrastructure for Enterprise AI Guide),协助企业评估电力与冷却等设施就绪度,推动 AI 工作负载从试点迈向生产。
AWS 介绍了如何使用 Amazon SageMaker JumpStart 与 SageMaker Python SDK v3 快速部署预训练模型并进行性能评测。用户可通过控制台 Model Hub 或 Hugging Face 深度链接一键部署,并针对低成本、低延迟等工作负载选择预配置选项。测试脚本可运行样本提示词以测量延迟、输出长度和生成速率,并在完成后自动删除端点。
OpenAI 发布最新分析显示,智能体 AI 在欧盟大型企业及小型企业中的应用正在持续增长。分析指出了更深度的应用可以在哪些领域释放出更多价值。
Anthropic 宣布在新加坡设立其在亚太地区的第五个办公室,并与新加坡数码发展及新闻部签署谅解备忘录。双方将在 AI 安全、模型评估标准、风险应急响应以及政企公共部门落地等领域展开深度合作。
欧洲多座城市正利用 NVIDIA 加速计算、Cosmos 与 Nemotron 开源模型构建 AI 智能体和数字孪生,以优化城市运营与公共服务。项目覆盖英、法、意等多国,例如法国科多尔省借此将文档检索耗时从数周缩至数分钟,并削减 10% 运营成本。Cisco、Dell 等伙伴同步推进本地化 AI 工厂建设,让各城市在本地部署应用的同时掌握数据控制权。
NVIDIA 宣布计划对 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 五家英国初创企业进行新投资,并设立一项为期 5 年、总额 2.5 亿美元的算力承诺以支持智能体安全与保障研究。此外,NVIDIA 同步公布了与 Earthshot Prize 的合作,并披露了其硬件与开源模型在英国能源、医疗、智慧城市、金融及量子计算领域的落地进展。
Claude Code 发布 v2.1.299 版本,终端新增空闲压缩功能,200K+ token 的会话在空闲约 54 分钟后会在 1 小时提示词缓存过期前自动压缩,避免重新处理全部上下文。