Skip to content

Open source

开源模型、框架与仓库动态：权重开放、社区项目爆火、开源与闭源的力量消长。

825selectedRelated topics模型发布Hugging FaceAI 编码

Latest selected

701–720 of 825
Sep 30Wed
  1. Hacker News · AI68

    CAISI 评估智谱 Z.ai GLM-5.3 网络安全与攻防能力Chinese

    CAISI 发布针对智谱（Z.ai）开源权重模型 GLM-5.3 的网络安全能力评估，指出其为迄今网络能力最强的开源权重模型，但综合表现仍落后美国前沿模型约 4 个月。

    Why it matters: 原文给出了该开源模型在漏洞挖掘与利用基准上的实测数据和差距对比，读者可以据此评估开源模型在网络安全攻防领域的真实能力边界。

  3. IT168 服务器存储 · AI与算力（网页）79

    华为发布昇腾960超节点与NPO光互联产品，公布百万卡算力集群演进路线Chinese

    华为在全联接大会2026上发布业界首款采用NPO光互联技术的昇腾960超节点、7.2T传输容量的Hi-ONE光互联引擎以及OceanStor M900 KV缓存集群。

    Why it matters: 原文披露了昇腾960超节点与NPO光互联架构细节，展示了面向百万卡AI集群从总线协议到多层缓存的系统级工程方案。

  4. Buzzing HN · 中文精选88

    World Labs 宣布将加入 AMD，李飞飞出任 AMD 执行副总裁兼首席科学家Chinese

    World Labs 宣布已签署最终协议加入 AMD，创始人李飞飞将出任 AMD 执行副总裁兼首席科学家，直接向 CEO 苏姿丰汇报。Justin Johnson 和 Ben Mildenhall 将继续与李飞飞共同带领团队，共同打造涵盖硬件、软件、平台和开放模型的端到端 AI 生态系统。该交易预计在 2026 年底前完成交割。

    Why it matters: 空间智能初创团队并入芯片巨头，体现了前沿 AI 研究团队与底层硬件加速深度整合的行业趋势。

  5. Buzzing HN · 中文精选68

    开源快速决策模型 Jeff 发布，基于 Qwen3.5 单次前向推理延迟约 30msChinese

    开源决策模型 Jeff 正式发布，基于 Qwen3.5-0.8B/2B 与 Gemma 4 E2B 微调，支持单次前向推理直接输出校准概率，单次决策延迟低至 22 至 28 毫秒。

    Why it matters: 原文展示了仅需单次前向推理的轻量级决策模型实现路径，为端侧与高并发场景下的极速分类与路由提供了低成本方案。

  6. IT之家 · AI 筛选79

    DeepSeek 开源面向华为昇腾算力平台的基础设施组件Chinese

    DeepSeek 宣布开源面向华为昇腾算力平台的基础设施组件，涵盖 TileLang 高级语言编译工具、计算库及分布式通信库，与英伟达平台开源组件一一对应。

    Why it matters: 原文给出了底层编译与通信组件从英伟达向华为昇腾的对应适配细节，有助于评估国产算力在训练和算子开发上的可用性。

  7. AITNT · AI头条（网页）77

    Flask 作者访谈：极简 Coding Agent Pi 为何只给 bash 就能赢过 Claude CodeChinese

    Flask 作者 Armin Ronacher 在播客访谈中拆解了极简 Coding Agent 工具 Pi 的爆火原因与设计哲学，指出大语言模型已擅长使用计算机，直接依赖 bash 管道串联命令比塞入专用工具更能高效利用上下文并保持可扩展性。

    Why it matters: 访谈深入拆解了极简 Agent Harness 的底层设计哲学与工程权衡，读者可借此理解为什么简单命令管道比塞满工具的架构更具扩展潜力。

  8. Cerebras 官方博客（网页）77

    Cerebras 实测 Karpathy 的 autoresearch：如何防止 AI 自主研究闭环失控与偏离目标Chinese

    Cerebras 针对 Karpathy 提出的 autoresearch 框架开展了 71 次实测，开源了 codex-autoresearch-harness 和 reap-expert-swap 工具，并总结了防止智能体自主实验偏离目标的工程实践。

    Why it matters: 原文通过两组真实任务实测了自主研究智能体的边界，给出了约束环境漂移和控制算力开销的具体方案。

  9. LlamaIndex 官方博客（网页）66

    LlamaIndex 发布 LiteParse 2026 年 9 月更新：优化解析性能并新增视觉定位与复杂度路由Chinese

    LlamaIndex 宣布开源 PDF 解析工具 LiteParse 迎来重要更新，通过在其 PDFium 分支中引入 mimalloc 内存优化与热路径缓存，将文本提取耗时降低 20–25%，在无 OCR 情况下达到平均 2.8ms/页的提取速度和 3.9ms/页的 Markdown 渲染速度。

    Why it matters: 文章详细拆解了通过改造底层 PDFium 内存分配提升无模型解析吞吐的工程细节，为文档预处理与路由分流提供了实测基准。

  10. vLLM 官方博客（网页）67

    vLLM 推出会话感知智能体路由 SAAR，优化长流程 Agent 模型调度与缓存成本Chinese

    vLLM 在 Semantic Router 中正式引入会话感知智能体路由 SAAR，通过会话级状态控制解决长流程 Agent 在单轮 prompt 路由下易打断工具调用与丢失前缀缓存的问题。

    Why it matters: 原文针对长流程智能体多轮调度痛点，提出结合工具循环锁与前缀缓存定价的会话级路由策略，为大模型推理网关降本与连续性保障提供了工程参考。

  11. vLLM 官方博客（网页）64

    vLLM 联合 DeepLearning.AI 推出大语言模型高效推理实战课程Chinese

    vLLM 联合 Red Hat 与吴恩达创办的 DeepLearning.AI 推出免费实战课程《Fast & Efficient LLM Inference with vLLM》，讲解大语言模型推理优化、部署及基准评测全流程。

    Why it matters: 课程系统串联了模型量化、vLLM 服务部署与压测评估的全流程，适合需要掌握大语言模型推理优化与工程落地的开发者参考。

  12. vLLM 官方博客（网页）72

    vLLM Semantic Router v0.3 Themis 发布：引入会话感知路由与规范配置契约Chinese

    vLLM 官方发布 Semantic Router v0.3 Themis，将语义路由升级为状态化、可观测的生产级控制平面。该版本统一了本地、控制台与 Kubernetes 的 v0.3 规范配置契约，推出支持工具循环硬锁定与路由器会话记忆的会话感知智能体路由（SAAR），并新增将原始信号规范化为决策策略的 Projection 机制。

    Why it matters: 材料系统梳理了语义路由器从信号到决策的流水线设计与状态化路由机制，为多模型调度与生产级推理网关架构提供了完整参考。

  13. vLLM 官方博客（网页）69

    vLLM 发布大模型强化学习后训练框架 vimeChinese

    vLLM 社区正式发布开源大语言模型强化学习后训练框架 vime，将 slime 的训练架构与 vLLM 的推理引擎连接至统一的 Megatron 强化学习流水线。

    Why it matters: 框架将成熟训练栈与 vLLM 推理引擎打通，读者可借此了解如何在统一硬件与解耦架构下保障强化学习训推一致性。

  14. vLLM 官方博客（网页）74

    vLLM 原生支持扩散大语言模型 DiffusionGemmaChinese

    vLLM 宣布原生支持基于 Gemma4 构建的 26B 离散扩散大语言模型 DiffusionGemma，成为该框架首个原生接入的 dLLM。实现上通过 Model Runner V2 的 ModelState 抽象管理逐请求状态，复用投机解码路径与动态序列级因果注意力，支持单批次内自回归与双向去噪混合处理。

    Why it matters: 原文详述了利用 ModelState 抽象与投机解码路径接入扩散大模型的技术方案，为非自回归推理服务提供了工程实践参考。

  15. vLLM 官方博客（网页）70

    vLLM-Omni 语音合成推理工程优化实践Chinese

    vLLM 团队发布了 vLLM-Omni 针对语音合成（TTS）模型的全套推理优化方案，支持 Qwen3-TTS、VoxCPM2、Higgs Audio V3 和 Fish Speech S2 Pro。

    Why it matters: 文章详细拆解了四种不同架构 TTS 模型的推理瓶颈与定制优化方案，为多模态语音服务部署提供了系统的工程参考。

  16. vLLM 官方博客（网页）69

    vLLM 推出语义路由器微智能体运行时并开放 vllm-sr/autoChinese

    vLLM 官方发布基于语义路由器的微智能体运行时，通过统一的 `vllm-sr/auto` API 接口在服务层内调度多模型协作。系统支持 Confidence、Ratings、ReMoM、Fusion 和 Workflows 五种协同回路模式，由路由层统一管理预算、并发上限、容错与输出协议。

    Why it matters: 文章把多模型协同机制下沉为开源推理服务基础设施，读者可以借此了解如何在单接口下编排多模型推理策略。

  17. vLLM 官方博客（网页）66

    vLLM-Omni 部署与优化多阶段 Qwen3-Omni 的实践经验Chinese

    vLLM-Omni 针对 Qwen3-Omni 提出了涵盖阶段拆分、CUDA Graph、异步分块传输、异步输出与按需副本扩展的全栈在线推理优化方案。该方案将 Thinker（多模态推理）、Talker（Codec 预测）与 Code2Wav（波形重建）流水线解耦，消除了跨阶段全载荷等待与 Python 调度开销。

    Why it matters: 文章拆解了语音多模态模型分阶段推理的延迟瓶颈，所提出的异步流水线与阶段级扩展方案可直接迁移至同类实时全模态架构。

  18. vLLM 官方博客（网页）63

    vLLM 集成腾讯混元 HPC-Ops Attention 与 MoE 高性能后端Chinese

    腾讯混元 AI Infra 团队打造的高性能算子库 HPC-Ops 正式合入 vLLM 主干分支，作为第一类原生 Attention 与 MoE 后端提供支持。

    Why it matters: 原文给出了动态负载均衡解码调度与全融合 FP8 MoE 算子的实测数据，读者可以参考其在长短序列混杂推理与 H20 硬件上的延迟优化收益。

  19. vLLM 官方博客（网页）64

    vLLM 强化学习框架 vime 适配 ROCm，支持在 AMD Instinct GPU 上端到端后训练Chinese

    vLLM 团队宣布强化学习框架 vime 正式支持 AMD ROCm 生态，可在 AMD Instinct MI355X 等 GPU 上开箱即用运行端到端强化学习后训练。

    Why it matters: 官方提供了预构建容器与端到端实测数据，开发者可直接在 AMD 硬件上复用 vLLM 的强化学习后训练工作流。

  20. vLLM 官方博客（网页）68

    vLLM 集成 TileRT 解码引擎实现低延迟 PD 分离推理Chinese

    vLLM 宣布通过 V1 版本的公共连接器接口集成 TileRT 0.1.5 解码引擎，实现零侵入代码修改的 Prefill-Decode 分离式推理。该方案支持原生 vLLM 负责 Prefill、TileRT 负责低延迟 Decode，二者可通过 RDMA 传输 KV 缓存并在同一服务层共存。

    Why it matters: 原文给出了零侵入复用现有推理生态的具体架构与配置，有助于读者评估低延迟场景下的分离式推理改造方案。