本文へスキップ

すべての記事

今日 25 件
9月22日火
  2. vLLM 更新76

    推理框架 vLLM 发布 v0.30.0 版本中国語

    推理框架 vLLM 正式发布 v0.30.0 版本，新增对 DeepSeek-V4.1-Flash、GLM-5.3-Flash 等新架构模型的端到端支持。核心更新引入支持 FP4 与多机 TP 的 Fast Start 显存权重缓存守护进程，大幅缩短引擎重启与初始化耗时；同时上线 HiSparse 分层稀疏 MLA 解码机制，并深度优化了投机解码、上下文并行及 NVFP4 量化性能。

    推薦理由：该版本通过显存权重常驻守护进程与稀疏解码分层卸载，为大模型长上下文与高并发推理提供了可迁移的部署优化方案。

  3. 腾讯混元 公众号68

    混元图像 3.5 预览版发布，腾讯推出高性价比专业级生图模型中国語

    腾讯正式发布混元图像 3.5 预览版（Hy Image3.5 preview），定位高性价比专业级生图模型，官方盲测对比 Hy Image3.0 综合能力提升约 30%。

    推薦理由：新模型在多轮编辑与文字渲染上做了针对性优化，配合较低的单图调用成本，有助于降低批量视觉物料生成的试错门槛。

  5. Hugging Face60

    UK AISI 与 EvalEval 如何让基准评测结果具备可复现性中国語

    英国人工智能安全研究所（UK AISI）正式采用 EvalEval 基础设施公开基准评测结果，利用 Evaluation Cards 平台与统一的 EEE 规范提升评测的可复现性与透明度。

    推薦理由：通过统一元数据和运行配置公开评测记录，为行业对比前沿模型评测差异提供了标准化的复现参考。

  7. Hugging Face80

    Transformers 原生支持运行 llama.cpp GGUF 量化模型中国語

    Hugging Face 在 Transformers 库中新增对 GGUF 量化格式的原生高效推理支持，用户可通过标准 from_pretrained API 直接加载 Hub 上的 GGUF 模型并在本地运行。

    推薦理由：原文展示了在 PyTorch 生态中直接加载 GGUF 权重的实现路径，让开发者无需脱离 Transformers 工作流即可兼顾端侧推理性能。

  8. NVIDIA Developer Blog65

    NVIDIA Dynamo-Triton 集成 TensorRT 多设备推理以简化多 GPU 模型服务中国語

    NVIDIA 推出 TensorRT 多设备推理能力并在 Dynamo-Triton 中完成集成，旨在简化多 GPU 场景下的模型服务。该能力基于 NCCL 分布式通信集合，允许单个 TensorRT 网络跨多张 GPU 执行，同时保留 TensorRT 的推理优化性能，已自 TensorRT 11.0 起获得完整支持。

    推薦理由：原文介绍了基于 NCCL 的多 GPU 分布式推理新特性，读者可据此了解 TensorRT 11.0 的多卡部署优化机制。

  9. NVIDIA Developer Blog40

    如何评估 AI 智能体：从工具调用到任务完成中国語

    评估上线 AI 智能体的关键在于验证其能否在真实环境中执行数十次连续工具调用，并在某个步骤失败时自主恢复。仅评估模型回复听起来是否合理无法判断工作是否真正完成，这也推动智能体评估体系必须从单次函数调用打分演进为对完整任务完成度的全面衡量。

  10. NVIDIA · AI 筛选78

    NVIDIA 推出 DSX Ready 认证计划，涵盖 AI 数据中心供电与液冷散热产品中国語

    NVIDIA 正式推出 DSX Ready 认证计划，用于验证符合其 DSX AI 工厂参考设计要求的合作伙伴供电与散热解决方案。该项目首批设立电池储能系统（BESS）与冷量分配单元（CDU）两个类别，首批认证方案来自 Hitachi Energy、LG Energy Solution、Tesla、LG Electronics、LiquidStack 和 Vertiv。

    推薦理由：该计划为液冷与储能设备建立了统一的参考设计规范，有助于建设方降低 AI 数据中心的供电与散热系统集成风险。

  13. Engineering at Meta72

    Meta 开源超大规模资源分配求解库 Rebalancer中国語

    Meta 宣布以 Apache 2.0 协议开源已在内部运行超 9 年的高性能分配问题求解库 Rebalancer。该库将问题规范与求解逻辑解耦，支持通过表达式图接入 MIP 求解器或高度并行优化的局部搜索算法，在 Meta 内部每天求解约 4000 万个涉及硬件放置、任务调度及 ML 训练负载均衡的问题。

    推薦理由：Meta 开源了在内部支撑九年超大规模基础设施调度的通用求解库，为海量算力与数据中心资源分配提供了可迁移的高性能解法。

  14. NVIDIA · AI 筛选46

    从使能到执行：埃及 AI 生态迈入生产级规模中国語

    NVIDIA 携手开发者与投资机构在大埃及博物馆举行活动，标志埃及 AI 生态正从技术赋能全面迈向生产级落地。期间 Hassan Allam 与 A15 达成约 $400 million 的新数据中心投资协议，Cassava 也与 Vodafone 埃及合作推进 AI 工厂并提供本地 GPU 即服务。目前非洲一年内已宣布或投产 4 座 AI 工厂，另有 656MW 规划容量在建。

9月21日月
  1. Microsoft Research63

    微软开源逆合成预测模型 RetroChimera 并在 Nature 发表中国語

    微软研究院在《Nature》发表并开源了逆合成预测模型 RetroChimera 的代码与权重，用于自动生成高质量的小分子化学合成路径。该框架结合了基于 Transformer 的生成模型 R-SMILES 2 与基于图神经网络的模板模型 NeuralLoc，并通过学习重排序机制聚合两者的互补优势。

    推薦理由：该模型融合了端到端生成与模板图神经网络的互补优势，为小分子与新药研发中的化学逆合成路线设计提供了可落地的开源方案。

  2. LangChain 官方博客62

    LangChain 评测 Jev 作为智能体评估器的可行性与表现中国語

    LangChain 实测了 TypeSafe AI 的 System One 决策模型 Jev 在智能体评估任务中的表现。在包含 500 次重复判定的天气测试集对比中，Jev 的二元通过判定与人类标准完全一致，单次调用成本为 $0.00035，方差显著低于 GPT-5.6 Terra、GPT-5.6 Luna 和 Claude Sonnet 4.6。

    推薦理由：评测给出了非自回归模型用于智能体评估的精度与成本对比，读者可据此参考低延迟评测方案。

  4. NVIDIA · AI 筛选59

    AI 安全是一项工程问题：如何在 AI 智能体技术栈各层实现安全防护中国語

    NVIDIA 指出 AI 安全本质上是工程问题，必须在 AI 智能体技术栈的模型、上下文工作流及运行时等各层建立明确的控制机制与验证依据。安全边界必须独立于智能体自身的推理决策，通过开源安全运行时 NVIDIA OpenShell 提供沙箱环境并严格限制文件、网络和系统访问权限。

  7. NVIDIA · AI 筛选41

    5 家利用 NVIDIA AI 推动清洁能源发展的公司中国語

    NVIDIA 在纽约气候周介绍了 5 家利用其 AI 技术加速清洁能源转型的公司。ThinkLabs AI 将电网互联评估时间从 30-45 天压缩至 2 分钟，Redwood Materials 基于 Blackwell 平台打造离网电池系统为 AI 工厂供电。TerraPower 与 CFS 则借助 Omniverse 数字孪生技术，大幅缩短核反应堆与聚变装置的研发交付周期。

  9. 月之暗面 Kimi 公众号80

    Kimi 发布 Kimi Code Desktop 桌面端，支持 macOS 与 Windows中国語

    月之暗面正式推出 Kimi Code Desktop 桌面客户端，同步上线 macOS 与 Windows 版本，将 Kimi Code 编程智能体能力整合至可视化工作区中。

    推薦理由：材料详述了从命令行到桌面图形界面的多智能体协作模式，有助于开发者评估其在复杂项目开发与审阅流中的适配度。

  11. Hugging Face72

    Hugging Face 发布 tokenizers v1 候选版，编码吞吐提速 3 至 30 倍中国語

    Hugging Face 推出分词库 tokenizers v1 发布候选版，在保持输出 token ID、词表与 API 完全兼容的前提下，单线程编码速度相比 v0.23 提升 3 至 30 倍。

    推薦理由：材料详细拆解了用 SIMD 位流替代正则、内存零分配合并与词缓存等工程设计，为大并发分词系统的性能调优提供了可迁移方案。

9月20日日
  1. 腾讯混元 公众号49

    腾讯混元等提出 WebCraftBench：面向 AI 网页生成的实测评测基准中国語

    腾讯混元团队联合清华大学、北京大学提出 AI 网页生成评测基准 WebCraftBench，引入代码覆盖率引导智能体实际操作网页，并从美观度、易用性和需求符合度三个维度打分。该基准包含 369 条真实需求与 5,088 条验收标准，在 17 个前沿模型实测中 Claude-Opus-5 综合排名第一，且在 197 组对比中与人类偏好的判断一致率达 85.3%。

  2. 阶跃 StepFun 公众号75

    阶跃发布旗舰模型 Step 5 Preview中国語

    阶跃星辰发布面向 Agentic 任务的旗舰模型 Step 5 Preview，即日起全量开放 API 与在线体验，并定于 10 月 15 日正式释放模型权重。

    推薦理由：原文给出了稀疏架构与长程任务的具体指标，读者可以据此评估其在复杂工程与专业研究中的能效表现。

9月19日土
  4. NVIDIA Developer Blog23

    使用 AIPerf 大规模评测大语言模型推理性能中国語

    AIPerf 用于大规模评测大语言模型（LLM）的推理性能。在评估部署模型的推理速度时，常规的 curl 命令、手写 asyncio 脚本或临时负载生成器容易遭遇单进程性能瓶颈以及 Python 的 GIL 并发上限限制。AIPerf 旨在解决这些传统压测方式面临的并发瓶颈，支持高负载基准测试。

  5. Claude Code 更新35

    Claude Code v2.1.277 发布中国語

    Claude Code 发布 v2.1.277 版本，新增对 AGENTS.md 的支持，当项目中缺少 CLAUDE.md 时将自动读取该文件作为指令。新版本为 Claude apps 网关新增代理出口边界配置与自定义静态 headers 支持。此外，更新还修复了 Agent SDK 内部错误挂起、空文本块导致请求失败及多项界面崩溃问题。

9月18日金
  1. GitHub Blog · AI 与安全52

    GitHub 播客拆解 AI 编程争议：从代码审查、Skills 与 MCP 到 RAG 的实际定位中国語

    GitHub 官方播客发文针对五个 AI 热门争议给出务实分析：开发者仍需审查 AI 代码直至能对其负责，面试核心在于展示人机协作的判断力；Skills 与 MCP 并非竞争替代而是互补组合，前者提供流程与上下文，后者提供标准化接口工具调用，同时 RAG 依然是补充外部信息的关键支柱。文章强调，难以被 AI 理解的代码往往本身存在可维护性问题，开发者应结合实际工程需求灵活选用工具而非盲目跟风争论。

  2. Google AI36

    多位顶尖学者加入 Google“AI 与经济”研究团队中国語

    Google 宣布扩建其“AI 与经济”研究项目，诺贝尔经济学奖得主 Philippe Aghion、学者 Ajay Agrawal 以及新任项目总监 Anu Madgavkar 和 Daniel Rock 等专家正式加入。该团队将重点研究工作未来、企业生产力、全球 AI 扩散及科学发现等领域，直接支持 AI & Economy ATLAS 的后续数据更新与实证分析。

  3. Google AI34

    与 Google 共同开创时尚未来中国語

    Google 旗下 Envisioning Studio 在 AI 创意工作室 Google Flow 中与设计师合作定制了两款工具，用于纽约时装周的创作流程。Styling Suite 帮助设计师在数字模型上完成虚拟试衣与造型搭配；Runway Visualization 则实现了秀场布景、灯光与走秀动线的低成本模拟。用户无需编程经验即可通过自然语言在 Google Flow 中构建专属工具。

  5. 智谱 公众号68

    智谱上线 GLM-5.3-FlashX 模型中国語

    智谱正式上线 GLM-5.3-FlashX 模型，生成速度最高可达 200 tokens/s。该模型基于 10 万张国产芯片提供的推理算力进行了底层 Infra 与推理优化，主打智能、价格与速度竞争力，目前 API 与体验中心已同步开放调用。

    推薦理由：原文给出了基于国产算力优化后的生成速率指标，读者可以据此评估高吞吐场景下的调用时延与可用性。