把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
開発者が「BootGPT」プロジェクトをオープンソースとして公開した。手書きのアセンブリで組まれた512バイトのマスターブートレコード（MBR）を用い、OSやCランタイムの支援を受けることなく、16ビットリアルモード上でニューラルネットワークを直接動作させる。システムは後続の23セクタから11.5KBのint8文字レベルモデルを読み込み、順伝播推論によって架空のLinuxブートログを生成する。実行環境はすべてアセンブリとBIOS割り込みに基づいて実装されており、重みのロード、テキスト表示、再起動処理を行っている。
推薦理由：同プロジェクトは、512バイトのブートセクタ内でニューラルネットワークを稼働させるエンジニアリング実装を実証したものであり、極限まで制約された環境におけるアセンブリ推論やモデル量子化の再利用可能な実践的リファレンスを提供している。
開発者がオープンソースプロジェクト「AI System Design Primer」を公開した。従来のシステム設計ガイドの構成を踏襲し、大規模言語モデル（LLM）をベースとした本番システムの構築に必要なコアコンポーネント、エンジニアリングパターン、トレードオフを体系的に整理している。
推薦理由：同ガイドは、大規模言語モデルを活用した本番システム構築における工学的なトレードオフとコンポーネントアーキテクチャを体系的に整理し、実行可能な実験コードも付属することで、AIアーキテクチャ設計に構造化されたリファレンスを提供している。
作者分享了搭建近 1 年的个人 Agent 自动化系统实践，核心理念是将人从任务起点抽离、仅保留最终审批决策，以此突破注意力瓶颈。该系统由自动化中台统一接收 Webhook 与定时事件并分发任务，调度 Claude 与 GPT 模型在本地 Mac 执行开发与运维，配套自建虚拟机 CI 审查合并代码，最后通过飞书卡片完成关键决策审批。
推薦理由：分享了基于事件驱动调度多模型与本地硬件审查的自动化流，读者可参考其将人置于最终决策节点的协同架构。
LobeHub 分享了将多智能体融入团队协作的系统架构与组织演进实践，探索从个人助手向自治业务单元的过渡。团队将执行循环、会话状态与沙箱环境解耦以支撑长程调用，建立个人、主管与执行三层汇报体系降低沟通干扰，并开源了通过真实界面录屏和自查标准进行自动化交付的验收工具 Acceptance。
推薦理由：文章详细拆解了多智能体协作中的交接卡点、执行沙箱架构与三层汇报机制，为团队落地智能化工作流提供了具体参考。
安全公司 Eclypsium 发布报告指出，黑客可通过篡改底层硬件固件、DPU 和管理控制器等核心基础设施，在不更改磁盘模型文件或容器哈希的情况下直接修改内存权重并影响 AI 输出。
推薦理由：报告揭示了跳过模型哈希校验、直接从固件与 DPU 等运行时底层篡改权重的攻击路径，为算力基础设施的安全防护提供了新参考。
Linux 内核被曝出高危释放后使用漏洞 CVE-2026-98432（CVSS 评分 9.8），影响 4.4 及以上版本的 IPv4 TCP 握手处理逻辑，未经身份验证的远程攻击者可借此造成内核内存泄露、系统崩溃甚至远程代码执行。
推薦理由：文章系统梳理了高危内核漏洞的技术成因与发行版修复进展，并提供了实测可行的临时防火墙拦截规则。
Anthropic 工程与产品负责人在访谈中详解了 Claude Opus 5.5 发布内幕，并提出将智能体的“大脑”与“手”解耦的架构设计。在 Claude Managed Agents 中，系统将会话 harness 与执行代码的沙箱环境分离，凭据不直接注入沙箱而是通过代理接入，避免环境崩溃中断会话并消除凭证泄露风险。
推薦理由：访谈拆解了将 Agent 会话控制与执行沙箱解耦的架构逻辑，为设计兼顾安全隔离与低延迟的智能体运行时提供了参考。
随着硬件进入量产阶段，NVIDIA 调整了 Rubin GPU 及 NVL72 系统的出货硬件规格，将单 GPU 的 HBM4 显存带宽从 22TB/s 降至 19.2TB/s，NVLink 带宽从 3.6TB/s 降至 3.0TB/s，同时将 scale-out 横向网络带宽从 0.4TB/s 提升至 0.45TB/s。
推薦理由：对比了量产版与早期设计在显存带宽和网络吞吐上的增减，有助于读者评估机架级系统在不同算力负载下的性能表现。
谷歌宣布其太空数据中心计划 Project Suncatcher 取得在轨运行进展，搭载于原型卫星上的 TPU 成功在地球轨道执行 Gemma 4 推理并向地面回传文本。
推薦理由：原文梳理了谷歌在轨部署 TPU 运行大模型的首测进展与散热辐射等工程瓶颈，为评估太空算力基础设施的可行性提供了参考。
Parameter Labs 披露了针对 ChatGPT HTML 预览功能的漏洞利用链，攻击者可通过恶意分享链接接管其他已登录用户的账户并窃取数据。该攻击利用 MathLive 库的 postMessage 机制将不受限制的 iframe 注入父页面，并通过 YouTube oEmbed 端点绕过 CSP 限制执行 JavaScript 以调用 API。
推薦理由：原文梳理了沙箱消息通信与 CSP 绕过的完整攻击链，有助于前端开发者排查 Web 应用集成时的安全隐患。
DeepSeek 开源了自主智能体底座架构原型 Super-agent，支持跨平台协同、主动排查问题与长期在线运行。系统采用 Router 与 Worker 双层架构，结合投机执行、两级事件过滤、订阅直通以及独立 Watchdog 监控自愈机制。在包含约 300 条消息的多任务模拟实测中，其任务完成时间中位数为 12.4 分钟，原型项目已上线 GitHub。
推薦理由：该架构通过路由与执行分层及投机执行机制，为多任务并行与跨平台长期自主运行提供了具体的工程参考。
GPUCost 推出云端 GPU 价格对比与大语言模型显存测算工具，将各平台算力租赁价格按显存（VRAM）容量进行归一化横向对比。
推薦理由：该工具提供了按显存归一化的多平台 GPU 租用价格横向对照，可作为评估模型部署成本的选型参考。
大模型推理框架 vLLM 正式发布 v0.33.0 版本，升级至 PyTorch 2.14.0 并弃用 CUDA 12.9，发布镜像全面转向 CUDA 13.0。
推薦理由：新版本全面转向 CUDA 13.0 与 PyTorch 2.14，并在推测解码与跨节点 KV 传输上提供了可用于大规模部署优化的工程参考。
AWS 针对 FinOps 与平台工程团队发布 Amazon Bedrock 端到端成本管理实践方案，建立包含归因、观测、预算执行、优化默认配置与持续运营的五阶段闭环。
推薦理由：原文提供了一套覆盖归因、可观测与预算阻断的端到端运营模型，便于团队在智能体工作流扩展时系统化治理推理成本。
面壁智能联合OpenBMB开源算子生成系统ForgeKernel。该Agent仅依据数学定义与硬件约束，在英伟达B200上耗时22.5小时、经历42轮自进化迭代，将DeepSeek-V4.1的FlashMLA Prefill算子执行耗时从518微秒降至472微秒，提速9.8%，全程人类代码投入为0行。
推薦理由：面壁智能展示了完全由智能体自主迭代完成高性能算子优化的路径，为跨异构芯片的算子自动生成提供了可参考实践。
SETI 研究所与 Breakthrough Listen 在艾伦望远镜阵列引入智能体 AI，研究人员通过单条自然语言提示即可让智能体自主操纵天线、校准聚焦并实时过滤修正数据。
推薦理由：展示了智能体结合边缘 GPU 流式处理在海量科研数据中的落地路径，为复杂物理仪器的自主调控提供了工程参考。
Cloudflare 正式全面开放私有源站（private origins）服务，允许将代理 DNS 记录直接指向私有 IP。流量通过现有的 Cloudflare One 连接接入内网源站，使内部 API、AI 智能体后端及 MCP 服务器无需暴露公网 IP 或添加入站防火墙规则，即可直接获得 WAF、缓存、Bot Management 与 Workers 等防护能力。
推薦理由：解决了内部接口与智能体后端无需暴露公网即可复用边缘防护的问题，显著简化了私有网络服务的安全接入配置。
开源实操课程 tiny-llm 正式推出，旨在帮助系统工程师在 Apple Silicon 设备上端到端构建大语言模型推理系统。该项目基于 MLX 底层数组与 Metal 算子从零加载 Qwen3 模型，不依赖高层神经网络封装库。课程设置分为 4 周，覆盖基础算子与自回归生成、单请求 W4 量化与 SIMD 优化、类 vLLM 连续批处理与分页 KV 缓存，以及完整的代码智能体闭环构建。
推薦理由：项目脱离高层框架直接基于底层算子手写推理流水线，为系统工程师在苹果设备上拆解大模型服务架构提供了极佳切入点。
开发者开源了 tinyworldformer 项目，成功在树莓派 Pico 2 W（RP2350）上实现了参数量仅 26k 至 131k 的微型世界模型，可实时生成并运行 Doom-lite、吃豆人等 5 款游戏。
推薦理由：项目展示了通过循环 Transformer 权重复用与 int8 量化，将世界模型与在线强化学习完整压缩至微控制器运行的工程实践。
大语言模型在实际生产中即使设定 temperature 0 和固定 seed 也无法保证输出完全确定，主要原因是服务端动态批处理时的底层 GPU 计算差异与模型静默更新。针对业务落地，架构上需将涉及资金与权限等核心判定交由硬编码规则、校准分类器或专用决策模型处理，仅让大语言模型负责非结构化文本读写。对于关键边界决策，团队应通过多次采样测试一致率，并直接持久化记录决策结果以实现系统可追溯与可复现。
推薦理由：原文从底层批处理差异剖析了大语言模型难以完全确定性的原因，并给出了硬编码规则与校准分类器相结合的分层工程落地方法。