跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
Ollama 发布 v0.40.12 版本，正式支持 Liquid AI 的 LFM3 系列以及 2B 尺寸的 d1 决策模型。LFM3 包含 1.7B 文本、视觉、语音及全模态版本，具备 256K 上下文窗口，首发支持 Apple 硬件平台且后续将适配 Linux 与 Windows。
Why it matters: 该版本补充了本地端侧轻量多模态与决策模型的运行支持，适合关注本地智能体部署的开发者参考升级。
苹果宣布推出搭载 M6 芯片的新款 14 英寸 MacBook Pro，标配 16GB 统一内存，电池续航最长达 24 小时。M6 搭载 12 核 CPU、12 核 GPU 与双 16 核 Neural Engine，图形性能相比 M5 提升最高 30%，端侧 AI 负载处理速度提升最高 25%，LLM 提示词首 token 处理速度提升最高 1.3 倍。
Why it matters: 原文列出了芯片在端侧推理速度与续航上的具体对比数据，有助于开发者和创作者评估本地运行大模型的硬件升级性价比。
Liquid AI 推出新一代流动基座模型 LFM3 系列，基于 1.7B 参数共享主干网络构建了涵盖文本、视觉、音频、全模态及决策任务的 6 款 2B 级别开源模型。新模型采用门控短卷积与注意力机制的混合架构，上下文窗口扩展至 256K tokens，4-bit 文本模型可在约 1 GB 显存设备上运行，且所有模型均支持在单张 GPU 上进行微调与端侧部署。
Why it matters: 该系列将多种模态统一在 2B 级主干网络上并支持单卡微调，为端侧智能体与具身智能部署提供了低算力门槛方案。
NVIDIA 推出全新 Windows PC 平台 RTX Spark，专为轻薄笔记本和紧凑型台式机提供 AI 开发、创作与游戏支持。该平台搭载 NVIDIA Blackwell RTX GPU 与 NVIDIA Grace CPU，最高集成 128 GB 统一内存，完整支持 CUDA 软件栈、光线追踪以及 DLSS 5 等 RTX 技术。
Why it matters: 原文展示了集成 Blackwell GPU 与 Grace CPU 的端侧硬件规格，有助于开发者评估紧凑设备上的本地 AI 渲染能力。
Exowatt 基于 Amazon SageMaker AI 无服务器模型微调服务构建了专用 AI 管线，微调的 Qwen3-1.7B 与 Qwen3-14B 模型在边缘告警分流与云端电力市场分析任务上的准确率均超越 Claude 前沿模型，成本降低最高 49 倍。
Why it matters: 展示了无服务器微调小模型替代前沿闭源模型的工程落地路径，为工业及离线边缘场景平衡性能与成本提供了可复用方法。
Ollama 发布 v0.40.12-rc1 预发布版本，新增对 Liquid AI LFM3 系列及 2B 尺寸 d1 决策模型的本地运行支持。LFM3 基于三元混合架构且拥有 256K 上下文窗口，涵盖文本、多模态及语音变体，目前在 rc1 中优先支持 Apple 硬件。
Why it matters: 该版本给出了本地运行 Liquid AI 端侧模型和加速特性的具体支持范围，读者可以据此评估本地小模型部署方案。
苹果推出搭载 M6 芯片的新款 MacBook Pro 与 iMac，重点主打更快速的端侧 AI 处理能力。当前报道链接由社区转述，具体硬件参数与实测细节尚未完整展开。
Survival LLM 是一款免费开源的本地 AI 应急助手与离线资料库，在完成首次配置后可完全脱离网络运行。该应用整合了约 93 万篇 Wikipedia 条目以及 FEMA、CDC 等机构的应急医疗手册，能针对断水断电或急救问题提供答案并高亮对应参考来源。系统支持根据 Mac 与 Windows 设备的内存大小自动下载匹配模型，且支持导入个人文档建立本地索引。
Why it matters: 该项目将端侧大模型与应急知识库结合，为极端断网环境下的本地知识检索与离线运行提供了实用参考方案。
苹果正式推送 iOS 和 macOS 27.2 系统更新，重点升级了 Siri AI 并加入对话记忆功能。Siri 现可调取历史对话、语音邮件及信息附件作为上下文，并新增法语、日语、韩语、葡萄牙语和西班牙语支持，同时提供排除特定应用访问的权限控制。此外，更新还包含信息上下文建议、照片的 SynthID 水印支持以及全新的 Apple Music 标识。
Why it matters: 苹果系统更新补充了端侧助手跨对话记忆与更多语种，展示了主流消费终端对生成式 AI 交互的隐私配置和集成方向。
Haplo 推出端侧代码图谱工具 Vesalius，通过 MCP 为 Claude Code 等智能体提供本地代码架构映射。该工具在 Mac 本地解析仓库并构建 SQLite 关系图谱，基准测试显示其可使 Claude Code 回答代码问题时的 token 消耗降低约 51%，工具调用轮次减少 43%，且代码不会上传至网络。
Why it matters: 原文提供了本地代码图谱与 MCP 接入方案，读者可参考其在保持答案质量的同时降低智能体调用开销的方法。
岩山科技旗下岩芯矩阵联合香港科技大学、CMU 等开源了新模型 EdgeRock-4B，通过记忆岩锚（RMA）机制将 256K 上下文的注意力 KV 固定在 72 MiB，相比源模型 Qwen3.5-4B 减少 99.1% 的 KV Cache 占用。
Why it matters: 原文通过有界状态与关键锚点机制解决了长文本显存膨胀问题，为端侧与高并发推理提供了可落地的固定内存方案。
开发者开源了面向 AI 编程智能体的本地记忆系统 Graph-MIND，允许不同终端智能体跨会话共享上下文，且保存记忆过程无需调用 LLM 与消耗模型 token。
Why it matters: 项目提供了零模型调用成本的跨智能体本地记忆方案，读者可以据此参考其通过转录捕获与轻量检索连接多客户端的工程实现。
开发者开源 fast-melroformer 工具，通过让神经网络引擎与 GPU 协同推理，使 Mel-Band RoFormer 人声分离模型在 8 GB M3 MacBook Air 上实现约 4 倍实时运行速度。
Why it matters: 原文拆解了将音频分离模型协同部署于神经网络引擎与 GPU 的工程细节，为苹果端侧推理加速提供了实用的优化参考。
安全研究者逆向分析热门手游《Block Blast》发现，游戏通过云端动态下发加密脚本并在端侧运行 XGBoost 等模型，在检测到高价值广告加载时主动下发无法消除的致死题以促使玩家观看激励广告。客户端内包含评估玩家广告价值 eCPM、流失风险与得分节奏的数百项动态特征规则，会在玩家突破历史高分且广告单价达标时精准制造必败局面以诱导复活变现。
Why it matters: 通过对移动端应用的逆向反编译与代码验证，揭示了端侧预测模型与动态规则如何协同操纵玩法以最大化广告变现。
开源 Chrome 扩展 Narro 正式发布，支持在浏览器端朗读网页并同步高亮句子，同时支持 Kindle 网页版阅读。
Why it matters: 该项目展示了在浏览器端通过端侧轻量模型运行语音合成的技术路线，读者可参考其利用离线推理保障隐私的实现方案。
Block 研究实验室发布全双工语音模型 Dessa，完全基于人类语音训练并在消费级硬件上本地运行，可表现出笑声、停顿与哭腔等拟人情感。该模型跳过了将语音转为文本的传统流程，支持在单张 GPU 或 MacBook M4 Max 等级别设备上实时双向对话。Dessa 目前未公开上线，官方正面向安全研究人员征集模型测试。
Why it matters: 该模型跳过了文本中转层而完全基于语音训练，展示了在消费级硬件本地运行全双工拟真语音交互的可行路径。
Block 推出 AI 语音模型 Dessa，该模型完全基于人类语音从零训练且无需文本中介，支持全双工实时交互并能识别情绪、讽刺与笑声。该模型在一台 NVIDIA GB200 NVL72 上训练完成，支持在 MacBook Pro M4 Max 上本地运行，目前尚未公开发布，正在招募安全研究人员进行风险测试。
Why it matters: 该模型跳过文本转换完全基于人类语音训练，为实时语音交互捕捉情绪与语调提供了端到端的实现路径。
Mantid 是一款面向非机器学习专业用户的 Mac 本地应用，支持直接导入表格或文档在本地免费训练预测性 ML 模型及自定义 LLM。所有数据处理和模型训练均在本地运行且无需注册账号，支持模型导出、版本回退以及通过本地 MCP 供其他 AI 工具调用。
Why it matters: 原文给出了本地训练 ML 与自定义 LLM 的硬件门槛和集成方式，读者可以据此评估低门槛端侧训练工作流。
Draggy 推出面向 Windows 的开源本地 AI 桌面应用，内置 llama.cpp 引擎与编码智能体，支持无账号且完全离线运行开源模型。客户端提供四种权限模式来读取、修改项目目录及执行终端命令，并支持带撤销的 diff 变更审查。此外，它通过专用引擎支持直接从 NVMe 硬盘读取超大 MoE 模型的专家权重运行，并兼容 107 个 MCP 服务及主流云端 API。
Why it matters: 相比常规本地模型运行器，该工具补足了工作区编码智能体与硬盘运行超大 MoE 模型的能力，适合注重隐私的离线开发场景。
Google 汇总了其利用 MedGemma、MedSigLIP 与 HeAR 等基础模型赋能全球结核病（TB）筛查的落地进展，实现离线快速分诊与多国规模化应用。
Why it matters: 展示了医疗多模态模型从算法验证、设备法规认证到离线部署的转化路径，为公共卫生 AI 落地提供了参考范式。