Skip to content

All updates

Today 25 items
Sep 22Tue
  2. vLLM 更新76

    推理框架 vLLM 发布 v0.30.0 版本Chinese

    推理框架 vLLM 正式发布 v0.30.0 版本，新增对 DeepSeek-V4.1-Flash、GLM-5.3-Flash 等新架构模型的端到端支持。核心更新引入支持 FP4 与多机 TP 的 Fast Start 显存权重缓存守护进程，大幅缩短引擎重启与初始化耗时；同时上线 HiSparse 分层稀疏 MLA 解码机制，并深度优化了投机解码、上下文并行及 NVFP4 量化性能。

    Why it matters: 该版本通过显存权重常驻守护进程与稀疏解码分层卸载，为大模型长上下文与高并发推理提供了可迁移的部署优化方案。

  3. 腾讯混元 公众号68

    混元图像 3.5 预览版发布，腾讯推出高性价比专业级生图模型Chinese

    腾讯正式发布混元图像 3.5 预览版（Hy Image3.5 preview），定位高性价比专业级生图模型，官方盲测对比 Hy Image3.0 综合能力提升约 30%。

    Why it matters: 新模型在多轮编辑与文字渲染上做了针对性优化，配合较低的单图调用成本，有助于降低批量视觉物料生成的试错门槛。

  5. Hugging Face60

    UK AISI 与 EvalEval 如何让基准评测结果具备可复现性Chinese

    英国人工智能安全研究所（UK AISI）正式采用 EvalEval 基础设施公开基准评测结果，利用 Evaluation Cards 平台与统一的 EEE 规范提升评测的可复现性与透明度。

    Why it matters: 通过统一元数据和运行配置公开评测记录，为行业对比前沿模型评测差异提供了标准化的复现参考。

  7. Hugging Face80

    Transformers 原生支持运行 llama.cpp GGUF 量化模型Chinese

    Hugging Face 在 Transformers 库中新增对 GGUF 量化格式的原生高效推理支持，用户可通过标准 from_pretrained API 直接加载 Hub 上的 GGUF 模型并在本地运行。

    Why it matters: 原文展示了在 PyTorch 生态中直接加载 GGUF 权重的实现路径，让开发者无需脱离 Transformers 工作流即可兼顾端侧推理性能。

  8. NVIDIA Developer Blog65

    NVIDIA Dynamo-Triton 集成 TensorRT 多设备推理以简化多 GPU 模型服务Chinese

    NVIDIA 推出 TensorRT 多设备推理能力并在 Dynamo-Triton 中完成集成，旨在简化多 GPU 场景下的模型服务。该能力基于 NCCL 分布式通信集合，允许单个 TensorRT 网络跨多张 GPU 执行，同时保留 TensorRT 的推理优化性能，已自 TensorRT 11.0 起获得完整支持。

    Why it matters: 原文介绍了基于 NCCL 的多 GPU 分布式推理新特性，读者可据此了解 TensorRT 11.0 的多卡部署优化机制。

  10. NVIDIA · AI 筛选78

    NVIDIA 推出 DSX Ready 认证计划，涵盖 AI 数据中心供电与液冷散热产品Chinese

    NVIDIA 正式推出 DSX Ready 认证计划，用于验证符合其 DSX AI 工厂参考设计要求的合作伙伴供电与散热解决方案。该项目首批设立电池储能系统（BESS）与冷量分配单元（CDU）两个类别，首批认证方案来自 Hitachi Energy、LG Energy Solution、Tesla、LG Electronics、LiquidStack 和 Vertiv。

    Why it matters: 该计划为液冷与储能设备建立了统一的参考设计规范，有助于建设方降低 AI 数据中心的供电与散热系统集成风险。

  13. Engineering at Meta72

    Meta 开源超大规模资源分配求解库 RebalancerChinese

    Meta 宣布以 Apache 2.0 协议开源已在内部运行超 9 年的高性能分配问题求解库 Rebalancer。该库将问题规范与求解逻辑解耦，支持通过表达式图接入 MIP 求解器或高度并行优化的局部搜索算法，在 Meta 内部每天求解约 4000 万个涉及硬件放置、任务调度及 ML 训练负载均衡的问题。

    Why it matters: Meta 开源了在内部支撑九年超大规模基础设施调度的通用求解库，为海量算力与数据中心资源分配提供了可迁移的高性能解法。

  14. NVIDIA · AI 筛选46

    从使能到执行：埃及 AI 生态迈入生产级规模Chinese

    NVIDIA 携手开发者与投资机构在大埃及博物馆举行活动，标志埃及 AI 生态正从技术赋能全面迈向生产级落地。期间 Hassan Allam 与 A15 达成约 $400 million 的新数据中心投资协议，Cassava 也与 Vodafone 埃及合作推进 AI 工厂并提供本地 GPU 即服务。目前非洲一年内已宣布或投产 4 座 AI 工厂，另有 656MW 规划容量在建。

Sep 21Mon
  1. Microsoft Research63

    微软开源逆合成预测模型 RetroChimera 并在 Nature 发表Chinese

    微软研究院在《Nature》发表并开源了逆合成预测模型 RetroChimera 的代码与权重，用于自动生成高质量的小分子化学合成路径。该框架结合了基于 Transformer 的生成模型 R-SMILES 2 与基于图神经网络的模板模型 NeuralLoc，并通过学习重排序机制聚合两者的互补优势。

    Why it matters: 该模型融合了端到端生成与模板图神经网络的互补优势，为小分子与新药研发中的化学逆合成路线设计提供了可落地的开源方案。

  2. LangChain 官方博客62

    LangChain 评测 Jev 作为智能体评估器的可行性与表现Chinese

    LangChain 实测了 TypeSafe AI 的 System One 决策模型 Jev 在智能体评估任务中的表现。在包含 500 次重复判定的天气测试集对比中，Jev 的二元通过判定与人类标准完全一致，单次调用成本为 $0.00035，方差显著低于 GPT-5.6 Terra、GPT-5.6 Luna 和 Claude Sonnet 4.6。

    Why it matters: 评测给出了非自回归模型用于智能体评估的精度与成本对比，读者可据此参考低延迟评测方案。

  4. NVIDIA · AI 筛选59

    AI 安全是一项工程问题：如何在 AI 智能体技术栈各层实现安全防护Chinese

    NVIDIA 指出 AI 安全本质上是工程问题，必须在 AI 智能体技术栈的模型、上下文工作流及运行时等各层建立明确的控制机制与验证依据。安全边界必须独立于智能体自身的推理决策，通过开源安全运行时 NVIDIA OpenShell 提供沙箱环境并严格限制文件、网络和系统访问权限。

  7. NVIDIA · AI 筛选41

    5 家利用 NVIDIA AI 推动清洁能源发展的公司Chinese

    NVIDIA 在纽约气候周介绍了 5 家利用其 AI 技术加速清洁能源转型的公司。ThinkLabs AI 将电网互联评估时间从 30-45 天压缩至 2 分钟，Redwood Materials 基于 Blackwell 平台打造离网电池系统为 AI 工厂供电。TerraPower 与 CFS 则借助 Omniverse 数字孪生技术，大幅缩短核反应堆与聚变装置的研发交付周期。

  9. 月之暗面 Kimi 公众号80

    Kimi 发布 Kimi Code Desktop 桌面端，支持 macOS 与 WindowsChinese

    月之暗面正式推出 Kimi Code Desktop 桌面客户端，同步上线 macOS 与 Windows 版本，将 Kimi Code 编程智能体能力整合至可视化工作区中。

    Why it matters: 材料详述了从命令行到桌面图形界面的多智能体协作模式，有助于开发者评估其在复杂项目开发与审阅流中的适配度。

  11. Hugging Face72

    Hugging Face 发布 tokenizers v1 候选版，编码吞吐提速 3 至 30 倍Chinese

    Hugging Face 推出分词库 tokenizers v1 发布候选版，在保持输出 token ID、词表与 API 完全兼容的前提下，单线程编码速度相比 v0.23 提升 3 至 30 倍。

    Why it matters: 材料详细拆解了用 SIMD 位流替代正则、内存零分配合并与词缓存等工程设计，为大并发分词系统的性能调优提供了可迁移方案。

Sep 20Sun
  1. 腾讯混元 公众号49

    腾讯混元等提出 WebCraftBench：面向 AI 网页生成的实测评测基准Chinese

    腾讯混元团队联合清华大学、北京大学提出 AI 网页生成评测基准 WebCraftBench，引入代码覆盖率引导智能体实际操作网页，并从美观度、易用性和需求符合度三个维度打分。该基准包含 369 条真实需求与 5,088 条验收标准，在 17 个前沿模型实测中 Claude-Opus-5 综合排名第一，且在 197 组对比中与人类偏好的判断一致率达 85.3%。

  2. 阶跃 StepFun 公众号75

    阶跃发布旗舰模型 Step 5 PreviewChinese

    阶跃星辰发布面向 Agentic 任务的旗舰模型 Step 5 Preview，即日起全量开放 API 与在线体验，并定于 10 月 15 日正式释放模型权重。

    Why it matters: 原文给出了稀疏架构与长程任务的具体指标，读者可以据此评估其在复杂工程与专业研究中的能效表现。

Sep 19Sat
  5. Claude Code 更新35

    Claude Code v2.1.277 发布Chinese

    Claude Code 发布 v2.1.277 版本，新增对 AGENTS.md 的支持，当项目中缺少 CLAUDE.md 时将自动读取该文件作为指令。新版本为 Claude apps 网关新增代理出口边界配置与自定义静态 headers 支持。此外，更新还修复了 Agent SDK 内部错误挂起、空文本块导致请求失败及多项界面崩溃问题。

Sep 18Fri
  1. GitHub Blog · AI 与安全52

    GitHub 播客拆解 AI 编程争议：从代码审查、Skills 与 MCP 到 RAG 的实际定位Chinese

    GitHub 官方播客发文针对五个 AI 热门争议给出务实分析：开发者仍需审查 AI 代码直至能对其负责，面试核心在于展示人机协作的判断力；Skills 与 MCP 并非竞争替代而是互补组合，前者提供流程与上下文，后者提供标准化接口工具调用，同时 RAG 依然是补充外部信息的关键支柱。文章强调，难以被 AI 理解的代码往往本身存在可维护性问题，开发者应结合实际工程需求灵活选用工具而非盲目跟风争论。

  2. Google AI36

    多位顶尖学者加入 Google“AI 与经济”研究团队Chinese

    Google 宣布扩建其“AI 与经济”研究项目，诺贝尔经济学奖得主 Philippe Aghion、学者 Ajay Agrawal 以及新任项目总监 Anu Madgavkar 和 Daniel Rock 等专家正式加入。该团队将重点研究工作未来、企业生产力、全球 AI 扩散及科学发现等领域，直接支持 AI & Economy ATLAS 的后续数据更新与实证分析。

  3. Google AI34

    与 Google 共同开创时尚未来Chinese

    Google 旗下 Envisioning Studio 在 AI 创意工作室 Google Flow 中与设计师合作定制了两款工具，用于纽约时装周的创作流程。Styling Suite 帮助设计师在数字模型上完成虚拟试衣与造型搭配；Runway Visualization 则实现了秀场布景、灯光与走秀动线的低成本模拟。用户无需编程经验即可通过自然语言在 Google Flow 中构建专属工具。

  5. 智谱 公众号68

    智谱上线 GLM-5.3-FlashX 模型Chinese

    智谱正式上线 GLM-5.3-FlashX 模型，生成速度最高可达 200 tokens/s。该模型基于 10 万张国产芯片提供的推理算力进行了底层 Infra 与推理优化，主打智能、价格与速度竞争力，目前 API 与体验中心已同步开放调用。

    Why it matters: 原文给出了基于国产算力优化后的生成速率指标，读者可以据此评估高吞吐场景下的调用时延与可用性。

  6. Claude Code 更新22

    Claude Code v2.1.276 发布Chinese

    Claude Code 发布 v2.1.276 版本，修复了 2.1.275 版本引入的请求回归问题。该问题曾导致当 ANTHROPIC_BASE_URL 指向代理或网关时，输入标签 'advisor_20260301' 会使所有请求均失败并报 400 错误，新版本对此进行了修复。