NVIDIA 推出 NVLink Fusion 将 NVHBM 引入下一代 AI 基础设施中国語
NVIDIA 推出 NVLink Fusion,将 NVHBM 引入下一代 AI 基础设施。该方案主要应对超大规模计算中心与定制 AI 加速器在运行超大模型及复杂推理任务时对高带宽内存的需求,以保障大规模扩展下的算力供给与互连效率。
推薦理由:原文介绍了面向下一代 AI 基础设施的内存互连方案,有助于了解大模型与定制加速器在带宽扩展上的架构演进。
AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。
NVIDIA 推出 NVLink Fusion,将 NVHBM 引入下一代 AI 基础设施。该方案主要应对超大规模计算中心与定制 AI 加速器在运行超大模型及复杂推理任务时对高带宽内存的需求,以保障大规模扩展下的算力供给与互连效率。
推薦理由:原文介绍了面向下一代 AI 基础设施的内存互连方案,有助于了解大模型与定制加速器在带宽扩展上的架构演进。
LangChain 宣布 LangSmith LLM Gateway 正式开启公测,定位为介于智能体与大模型调用之间的集中治理层。该网关支持在组织、工作区、API 密钥及用户四个层级配置支出上限、速率限制、模型自动故障转移,并向 Enterprise 方案提供 PII 与敏感数据脱敏。
推薦理由:针对生产环境智能体调用失控风险,平台通过集中式网关提供支出上限与跨模型降级等运行时治理能力。
LangChain 宣布在 LangSmith 中推出自改进(self-improvement)评测器功能,用于解决 LLM-as-a-Judge(大模型作为裁判)在评估生成式任务时难以对齐人类偏好且需大量提示词工程的痛点。
推薦理由:该方案通过收集人工修正作为少样本示例回填提示词,为大模型裁判的偏好对齐提供了一种无需反复调优提示词的工程化实现路径。
LangChain 正式发布用于构建多智能体应用的 LangGraph v0.1 稳定版,并推出专用于规模化部署智能体的云基础设施 LangGraph Cloud。
推薦理由:官方通过底层控制与云端运行时组合,解决了复杂智能体在生产环境中难以可靠调度和容错扩展的问题。
LangChain 联合 NVIDIA 正式发布 NemoClaw for LangChain Deep Agents 方案,帮助企业构建开放且受控的生产级智能体系统。
推薦理由:方案整合开源模型、Agent 框架与安全运行时,为企业私有化部署和治理智能体提供了完整技术栈参考。
LangChain 宣布与 NVIDIA 深度整合推出企业级智能体 AI 开发平台,并正式加入 Nemotron Coalition。
推薦理由:原文给出了编排框架与底层算力优化的完整集成方案,读者可以据此参考企业级智能体在工程部署和监控评估上的落地架构。
LangChain 宣布专用于部署和扩展长时间运行、有状态 AI 智能体的基础设施 LangGraph Platform 正式可用(GA)。该平台提供一键部署、30 个 API 端点、突发流量水平扩展能力、支持记忆与人机协作的持久化层,并内置调试工具 LangGraph Studio。
推薦理由:原文梳理了长时间运行与有状态智能体的生产部署方案,开发者可据此评估其持久化与弹性扩展架构对复杂工作流的适配价值。
Anthropic 宣布开启模型硬件标准(MHS)的研究预览,该共享规范旨在让 AI 智能体安全操作显微镜、移液器和机械臂等各类科研与制造硬件。MHS 引入标准化驱动程序,通过基础读写原语和自然语言元数据让设备具备可发现性,并支持通过 MCP、CLI 及代码文件与模型协同,将硬件集成时间从数周缩短至数小时。
推薦理由:该标准将原本需要数周的实验室跨设备集成缩短至数小时内,展示了智能体通过统一协议调度物理硬件的工程路径。
Anthropic 宣布面向全球科学家开放 1 万个为期一年的 Claude 科学家团队计划席位,标准席位免费,含 5 倍用量上限的高级席位每月 15 美元。该计划同步扩大 AI for Science 资助范围至更多高算力科研领域,单个项目最高可申请 50,000 美元额度。
推薦理由:Anthropic 通过提供免费与折扣订阅席位及算力额度降低科研团队的使用门槛,为学术和非营利机构的研究工作提供了明确的获取路径。
Kubernetes 正式发布 v1.37 版本,共带来 67 项功能增强,其中 16 项毕业至 Stable、23 项进入 Beta、27 项进入 Alpha。
推薦理由:原文汇总了新版本全部功能演进,为针对 AI 训练与弹性算力调度的集群架构升级提供了选型参考。
NVIDIA 发布 CUDA Python 1.0,提供稳定的 API、统一基础架构以及对 CUDA 平台的完整访问能力。该版本旨在解决 Python 开发者此前要么手写 CUDA C++ 扩展、要么完全依赖 PyTorch 或 CuPy 等上层库的局限。
推薦理由:原文阐述了 CUDA Python 1.0 提供的稳定 API 与平台访问能力,有助于开发者评估如何降低 Python 调用底层 GPU 的开发门槛。
SemiAnalysis 实测并披露了 OpenAI 联手博通打造的专用 LLM 推理芯片 Jalapeño。该芯片采用台积电 N3P 工艺与 HBM4 内存,TDP 约为 700W,在单 token 预测测试中的每瓦 token 吞吐量超过 Nvidia Blackwell,且在 DeepSeek R1 和 GPT-OSS 上展现出极高的交互速度。
推薦理由:原文披露了首款自研推理芯片的实测数据与机架互联架构,读者可据此评估大模型厂商垂直整合对算力格局的具体冲击。
Gradio 正式推出内置工作流功能 gr.Workflow,支持开发者将 AI 流水线定义为类型化节点图,提供可运行的拖拽式画布、REST API 暴露以及一键部署到 Hugging Face Spaces 的能力。
推薦理由:介绍 Gradio 如何将多步 AI 流水线转化为可视化节点图与 REST 接口,读者可据此评估应用编排与快速部署方案。
Meta 宣布推出专为百万 GPU 规模 AI 工作负载设计的 RDMA 传输协议 MetaRoCE,并通过开放计算项目(OCP)开源其完整规范、软件参考实现 libsoftmetaroce 与合规测试套件。
推薦理由:原文给出了面向百万级 GPU 的传输层设计与测试数据,读者可以据此评估在标准以太网上去除 PFC 对智算网络吞吐与弹性的提升。
Meta 推出首款针对推荐与排序模型训练优化的自研 AI 芯片 MTIA 300,在芯片封装内集成了自研网卡芯粒与专用通信卸载引擎。该芯片包含 12 个 800 Gbps RDMA 网卡以提供 1.2 TB/s 的 I/O 带宽,并借助 16 个专用消息引擎使集合通信对算力吞吐的干扰降至 0.5% 以下。
推薦理由:芯片通过片上集成网卡与近存通信引擎实现通信计算完全解耦,为大规模推荐模型训练的通信瓶颈提供了硬件层面的协同设计参考。
Google 宣布在搜索中推出 5 项 AI 学习功能,涵盖用于理解概念的生成式交互图表(Generative UI)、支持 SAT 和 GRE 等考试的互动测验、通过 Lens 进行逐步解题指导、在 AI Mode 中接入 Gemini Notebook(原 NotebookLM)以及基于多源资料生成自定义学习文档。
推薦理由:原文给出了搜索结合生成式UI与笔记功能的五大学习场景,读者可据此了解AI搜索在教育辅助工作流中的具体落地。
Cerebras 正式推出代号为 Nexus 的 CS-4 系统,搭载超频版 WSE-3 Turbo 晶圆级引擎,通过两倍供电与增强散热将芯片算力与吞吐提升至前代的 2 倍。
推薦理由:文章解析了 CS-4 如何通过超频 WSE-3 芯片与背包式解耦机架设计,在不更换底层晶圆制程的前提下实现单机吞吐与部署效率的翻倍。
Sentence Transformers 在 v6.0 更新中引入 MultiVectorEncoder,原生支持 ColBERT 风格的延迟交互(Late Interaction)检索模型。
推薦理由:库更新统一了 ColBERT 与 ColPali 等延迟交互模型的接口,读者可据此在 RAG 中低成本接入多向量检索。
智谱针对 GLM 优化的编程工具 ZCode 迎来重大升级,正式上线 Goal 目标模式、Subagents 子智能体、Remote Control 远程控制与闲时任务四大功能。
推薦理由:升级引入了目标自主交付与子智能体分工机制,展示了编程工具如何通过上下文缓存优化与远程控制提升长程任务效率。
AWS 宣布在 Amazon Bedrock AgentCore Runtime 中推出 Runtime instances,为生产环境中的复杂 AI 智能体提供全托管的持久计算基础设施。
推薦理由:该功能通过托管 EC2 基础设施支持长达 14 天的会话持久化与 GPU 加速,开发者可直接基于共享文件系统构建多智能体协作。