本地模型运行框架 Ollama 发布 v0.34.3 版本更新。新版本在 CLI 和 /api/show 接口中新增了对各模型“思考级别（thinking controls）”参数及其默认值的展示支持；同时支持通过 MLX 在 Apple Silicon 设备上运行 Nemotron H 视觉模型。此外，该版本还修复了从 HuggingFace 拉取模型的问题，并优化了 macOS 客户端的应用激活窗口逻辑。
Tata Elxsi 基于 AWS 构建了实时工业安全平台 IRIS。该平台通过在边缘端对摄像头视频进行过滤，利用 Amazon Kinesis 传输元数据，并在 Amazon SageMaker AI 上运行计算机视觉模型，将检测结果关联为高置信度警报。该系统将不安全工况的检测时间从数分钟缩短至数秒，显著提升了工业现场的安全响应效率。
英伟达面向游戏开发者发布系列技术更新，推出DLSS 5并引入DLSS 3D引导神经渲染（3D-Guided Neural Rendering）及精细化控制功能，旨在帮助开发者在保持渲染性能的同时，呈现逼真的光照效果和材质细节。此外，本次更新还涵盖了NVIDIA ACE（虚拟数字人技术）的最新进展以及RTX Kit套件的新功能增强。
开源项目 oMLX 的创建者兼维护者 Jun Kim 宣布加入 Hugging Face，未来将专注于支持与发展苹果芯片机器学习框架 MLX 的开源生态。MLX 是苹果专为 Apple Silicon 设计的深度学习框架，oMLX 则为其相关衍生工具。由于原文仅提供标题信息，其具体职责及合作路线图等细节尚未披露。
vLLM 官方宣布推出 vllm-metal，将 vLLM 的分页机制（PagedAttention）和连续批处理推理服务架构引入 Apple Silicon 设备。该版本旨在提升苹果芯片设备上的高并发推理能力，在面对多智能体并发负载时能提供更稳定的首字生成时间（TTFT），并支持批处理 MTP 等高级特性，优化了 Mac 设备的本地大模型部署体验。
本地大模型运行框架 Ollama 发布 v0.34.2 版本更新。新版本新增了首次运行时的设置流程，用户可选择登录或直接在本地继续使用，且设置状态可在 macOS 和 Windows 桌面应用间共享；支持通过 ollama://apps 协议直接唤起桌面应用的应用页面；修复了在使用 MLX 推测解码进行长文本生成时内存过度占用的问题，并同步更新了底层 llama.cpp 依赖。
开源社区发布了 Bonsai 2 27B 模型及其相关量化版本。该模型通过先进的压缩与量化技术，在保持接近无损性能的前提下将模型体积缩减至原来的九分之一，其 GGUF 格式模型大小仅约 5.95 GB。开发者可以通过定制的 llama.cpp 分支运行时环境在本地设备（如 macOS 等）上部署和体验该高效压缩模型。
在 v0.34.2-rc2 版本中，mlxrunner 修复了投机解码过程中的内存泄漏问题。此前解码循环仅在生成 Token 数量恰好为 256 的整数倍时释放 MLX 缓冲区池；但投机解码每轮会生成多个 Token，容易直接跨过该固定边界导致释放逻辑未触发。在长上下文生成场景下，未释放的旧 KV 缓存会导致显存占用不断攀升直至 OOM。新版本修改为只要单轮跨越 256 边界即触发释放。
mlxrunner 推出 v0.34.2-rc1 预发布版本，重点对 model 模块进行了结构重构。新版本梳理了 runner 与模型架构协议、检查点打开以及从检查点张量构建神经网络层这三项核心职责。通过将 base.go 重命名为 model.go，并把 safetensors 头部扫描与 TensorQuantInfo 集中归入 quant.go，使得检查点量化信息的读取与解析逻辑更加聚合规范，同时规范了 nvfp4 等全局缩放辅助工具的处理。
英伟达公布最新测试结果，TensorRT Edge-LLM 在 Jetson AGX Thor 平台上运行 MLPerf 边缘智能体基准测试时实现了 6.4 倍的速度提升。随着 AI 智能体逐步从云端数据中心迁移至汽车、机器人及其他边缘硬件，该技术针对需要多步骤推理的智能体工作流进行了优化，显著提升了端侧设备本地处理复杂任务的能力与能效表现。