Kubernetes v1.36 演进工作负载感知调度
Kubernetes v1.36 升级工作负载感知调度架构,将 Workload API 拆分为静态模板与管理运行时状态的 PodGroup API,并为 kube-scheduler 增加原子化 PodGroup 调度周期以支持成组调度(gang scheduling)。
推荐理由:原生拆分静态模板与运行时分组状态,并联合调度周期与抢占机制,使分布式训练等紧耦合任务摆脱了复杂外挂调度系统的依赖。
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
Kubernetes v1.36 升级工作负载感知调度架构,将 Workload API 拆分为静态模板与管理运行时状态的 PodGroup API,并为 kube-scheduler 增加原子化 PodGroup 调度周期以支持成组调度(gang scheduling)。
推荐理由:原生拆分静态模板与运行时分组状态,并联合调度周期与抢占机制,使分布式训练等紧耦合任务摆脱了复杂外挂调度系统的依赖。
Sebastian Raschka 发文系统阐释了编码智能体与外层脚手架(Harness)的架构设计,并开源了纯 Python 实现的 Mini Coding Agent 项目。
推荐理由:文章系统拆解了代码智能体脚手架的六大核心组件,帮助开发者理解上下文管理与工具链如何补足模型能力。
Sebastian Raschka 系统梳理了现代主流开源大模型中应用的注意力机制变体与设计权衡。文章重点解析了标准多头注意力(MHA)、分组查询注意力(GQA)、多头潜在注意力(MLA)、滑动窗口注意力(SWA)以及 DeepSeek 稀疏注意力(DSA),展示了各机制在模型表现与 KV Cache 占用上的对比。
推荐理由:梳理了主流开源大模型中各类注意力变体的机制差异与权衡,便于读者系统理解长上下文下的 KV Cache 优化与混合架构演进。
Sebastian Raschka 梳理并对比了 2026 年 1 至 2 月发布的 10 余款代表性开源大模型的网络架构与基准表现。分析指出近期开源模型普遍强化了推理计算效率设计,包括广泛采用 MLA、DeepSeek 稀疏注意力、Gated DeltaNet 等线性注意力混合机制、多 Token 预测以及滑动窗口注意力。
推荐理由:原文横向对比了多款开源大模型的注意力机制与混合专家结构演进,读者可据此理清长上下文与推理效率优化的关键设计差异。
Sebastian Raschka 发布 2025 年大模型年度盘点与预测,指出大模型演进的核心驱动力已转向以 RLVR 与 GRPO 为代表的后训练推理以及推理时扩展。
推荐理由:系统梳理了推理模型、后训练强化学习与混合架构的演进,为读者研判大模型技术路线与工程落地提供了多维度参考。
Sebastian Raschka 深入剖析了 DeepSeek 从 V3 到 V3.2 的技术演进,涵盖模型架构、稀疏注意力机制与强化学习优化。DeepSeek V3.2 引入了由 Lightning Indexer 驱动的 DeepSeek 稀疏注意力机制(DSA),将注意力计算复杂度从二次方降低至线性 O(Lk)。
推荐理由:梳理了稀疏注意力 DSA 与 GRPO 算法调优的技术演进脉络,有助于理解开源大模型在长上下文效率与强化学习稳定性上的工程实现细节。
DeepSeek 正式发布并开源 DeepSeek-V3.2 与长思考增强版 DeepSeek-V3.2-Speciale 两个正式版模型,网页端、App 和 API 已同步更新。DeepSeek-V3.2 首次支持在思考模式下进行多轮工具调用,并适配了 Claude Code;Speciale 版本专注于高难度数学与逻辑推理,目前以限时 API 服务形式开放给社区评测。
推荐理由:官方正式发布两款新模型并开源权重,重点实现了思考推理与工具调用的深度结合,并同步更新了服务接口。
DeepSeek 正式发布实验性模型 DeepSeek-V3.2-Exp,引入细粒度稀疏注意力机制(DSA)以优化长文本训练与推理效率,官方各端已同步上线且 API 调用成本降低 50% 以上。
推荐理由:模型引入细粒度稀疏注意力机制提升长文本训练推理效率,同步开源模型权重与算子并将 API 调用成本降低 50% 以上。
DeepSeek 宣布 DeepSeek-V3.1 更新至 DeepSeek-V3.1-Terminus 版本,并在 Hugging Face 与 ModelScope 同步开源。
推荐理由:官方说明了该版本在语言一致性以及代码和搜索智能体上的针对性改进,并同步公开了开源权重与接口更新。
Sebastian Raschka 发布教程讲解如何使用纯 PyTorch 从零实现千问(Qwen3)的 Dense 与 MoE 架构,拆解底层核心构建模块。文中梳理了 Qwen3 采用 Apache 2.0 开源协议、提供从 0.6B 到 480B MoE 等多尺寸规格的优势,其 235B-Instruct 版本在 LMArena 排行榜上排在第 8 位并追平 Claude Opus 4。
推荐理由:提供了用纯 PyTorch 从零实现 Qwen3 架构的完整代码与模块拆解,便于开发者理解现代开源大语言模型的底层设计。
Sebastian Raschka 深入解析了 OpenAI 开放权重的 gpt-oss-20b 与 gpt-oss-120b 架构,并对比了 GPT-2 与 Qwen3 的技术演进。
推荐理由:文章拆解了开源模型在网络结构与量化工程上的取舍,有助于开发者理解现代大模型的单卡运行原理与架构演进脉络。