Skip to content

On-device AI

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

204selectedRelated topics部署工程开源生态模型发布

Latest selected

1–20 of 204
Nov 1Sun
  1. Hacker News · AI66

    开源语音助手 Hey Spark 发布,支持本地端侧运行与 MCP 工具调用Chinese

    ContextuAI 开源桌面语音助手 Hey Spark,支持在笔记本电脑的本地 CPU 上运行唤醒词检测、faster-whisper 语音识别和 Piper/Kokoro 语音合成。

    Why it matters: 本地运行语音识别与合成并结合 MCP 工具调用,为需要隐私保护和自主控制的桌面语音智能体提供了参考架构。

Oct 31Sat
  1. Hacker News · AI71

    开源项目 Tadpole 发布:从零构建纯 Python 智能体并后训练 4B 模型Chinese

    开发者 shakewingo 开源了 Tadpole 项目,用约 3500 行纯 Python 代码且不依赖任何 Agent 框架实现了一个具备文件、Shell 与网络搜索工具的智能体,支持终端和 Telegram 机器人运行。

    Why it matters: 项目展示了无需框架用纯Python从零实现智能体并完成4B模型后训练的全流程细节。

  2. IT之家 · AI 筛选78

    苹果中国官网上线 Apple 智能页面,首批功能接入千问并将于 12 月随 iOS 27.3 推出Chinese

    苹果中国区官网上线 Apple 智能介绍页面,宣布首批核心功能接入阿里巴巴千问,计划 11 月 4 日起随 iOS 开发者 Beta 版测试,并于 12 月随 iOS 27.3 正式向中国用户推出。iPhone 15 Pro 及更新机型均支持该功能,涵盖实时翻译、通话摘要、通知优先级排序以及照片消除与影片定制等端侧体验;用户还可在 Siri、视觉智能和写作工具中选择通过千问扩展功能。

    Why it matters: 原文给出了国行功能的上线时间表、支持机型与千问整合场景,读者可据此核对设备门槛与更新节奏。

  3. 爱范儿 · AI 筛选80

    国行 Apple 智能官宣将于 iOS 27.3 落地并接入千问大模型Chinese

    苹果宣布国行 Apple 智能将随 iOS 27.3 推出,首批功能于 11 月 4 日随开发者测试版上线,正式版预计 12 月发布。首波功能仅支持 iPhone 15 Pro 及后续机型,技术方案采用自研端侧模型打底并由阿里巴巴千问提供云端扩展,包含写作工具、照片消除、实时翻译及视觉智能,但具备深度屏幕感知与跨应用执行的完整 Siri 暂未包含在内。

    Why it matters: 原文梳理了首批国行功能的落地节奏与机型门槛,并解析了自研端侧模型结合本土千问云端调用的架构方案。

  4. IT之家 · AI 筛选79

    苹果 Apple 智能国行版本接入阿里千问,用户可自主选择是否开通集成功能Chinese

    苹果宣布国行 Apple 智能接入阿里巴巴千问大模型,中国用户可自主选择是否开通集成并在 Siri、写作工具与视觉智能中调用其能力。每次发送问题、文档或图片前均需征得用户同意,且相关数据不会被用于模型训练。该功能将于 11 月 4 日随 iOS 开发者 Beta 版开放测试,并计划于 12 月 iOS 27.3 正式版向中国用户推出。

    Why it matters: 原文明确了国行系统的授权方式与隐私保护条款,读者可以据此了解大模型接入系统级功能后的数据边界。

  5. IT之家 · AI 筛选77

    苹果宣布 Apple 智能首批功能即将在国内上线,支持 AirPods 实时翻译Chinese

    苹果宣布将在国内上线首批 Apple 智能核心功能,定于 11 月 4 日随开发者测试版开放并于 12 月随系统更新正式发布。首批功能包括整合到通话与消息中的实时翻译,并支持 AirPods 4 降噪版与 AirPods Pro 2 等耳机进行跨语言交流。该功能对设备机型有明确限制,且需将 Siri 与系统语言设置为英文或简体中文,同时首批还包含写作工具、照片消除与摘要等能力。

    Why it matters: 报道梳理了 Apple 智能在国内上线的具体功能与机型门槛,读者可据此确认适配设备与时间表。

  6. 爱范儿 · AI 筛选77

    iPhone 国行 Apple 智能即将上线,接入通义千问扩展复杂任务能力Chinese

    苹果宣布 Apple 智能(Apple Intelligence)首批功能将于 11 月 4 日随 iOS 开发者 Beta 版面向中国大陆测试,并于 12 月随 iOS 27.3 正式版向 iPhone 15 Pro 系列及后续机型推出。

    Why it matters: 原文展示了苹果端侧自研模型处理基础任务、复杂需求调用阿里千问的协同架构,有助于读者理解国行 AI 的本土化落地模式。

  7. The Verge · AI 筛选74

    Apple Intelligence 将随 iOS 27.3 落地中国市场Chinese

    Apple 宣布 Apple Intelligence 将通过 iOS 27.3 正式进入中国市场,首批功能于 11 月 4 日在测试版上线,正式版定于 12 月发布。中国版首批提供通知摘要、实时翻译、重写校对、视觉智能和照片消除等功能,新版 Siri 暂不包含在内;同时 Apple 合作阿里巴巴在部分场景中接入千问(Qwen)聊天机器人。

    Why it matters: 原文明确了功能分阶段上线节奏与本土合作方案,读者可以据此了解跨国端侧智能进入特定市场的落地路径。

  8. IT之家 · AI 筛选78

    苹果 Apple 智能国行版接入阿里千问,11 月 4 日随 iOS 开发者 Beta 开启测试Chinese

    苹果宣布首批 Apple 智能功能即将在中国推出,并在 Siri、写作工具和视觉智能等体验中接入阿里千问,覆盖文本与图像理解能力。该批功能将于 11 月 4 日随 iOS 开发者 Beta 版开放测试,12 月随 iOS 27.3 正式推出,支持实时翻译、写作改写与校对、照片消除和通知摘要等场景。本次更新不包含 Siri AI 以及苹果在 WWDC 2026 宣布的其他下一代功能。

    Why it matters: 原文明确了苹果智能国行版通过接入千问落地的具体调用场景和测试时间表,读者可据此评估国内生态的适配进展。

Oct 30Fri
  1. Buzzing HN · 中文精选77

    tinyworldformer 开源:在树莓派 Pico 2 W 上运行微型世界模型与强化学习智能体Chinese

    开发者开源了 tinyworldformer 项目,成功在树莓派 Pico 2 W(RP2350)上实现了参数量仅 26k 至 131k 的微型世界模型,可实时生成并运行 Doom-lite、吃豆人等 5 款游戏。

    Why it matters: 项目展示了通过循环 Transformer 权重复用与 int8 量化,将世界模型与在线强化学习完整压缩至微控制器运行的工程实践。

  2. Hacker News · AI73

    安全研究测试利用 Apple 个人知识图谱与 LLM 策划针对个人的恶意攻击Chinese

    安全研究机构 Eighth Rank 进行了一项概念验证实验,将 macOS 本地生成的个人知识图谱导出并输入给去安全限制的 LLM(DeepSeek-V4-Flash),测试其能否自主制定针对机主的最大伤害方案。

    Why it matters: 研究揭示了端侧集中且预处理的结构化知识库如何降低恶意分析门槛,为评估个性化 AI 的本地数据安全提供了警示参考。

Oct 29Thu
  1. Hacker News · AI69

    Overheard 发布:支持 Claude Code 查询的 Mac 原生会议录音与转录工具Chinese

    原生 Mac 菜单栏工具 Overheard 正式发布,可捕获系统通话音频并转录为文本,内置 MCP 服务供 Claude Code、Claude Desktop 或 Codex 直接查询会议纪要与代办事项。应用通过 Core Audio 进程监听实现免机器人入会录音,支持基于 MLX 的本地 GPU 转录或 ElevenLabs 云端转录,会议数据与 Markdown 文本均保存在本地目录中。

    Why it matters: 该工具通过原生进程音频捕获和内置 MCP 服务,为习惯在终端或桌面直接调度会议记录的开发者提供了纯本地工作流范例。

  2. Hugging Face64

    Hugging Face 发布 AnySpeechRecognizer 与 AnyDecisionModel,支持苹果端侧语音识别与决策Chinese

    Hugging Face 宣布推出面向 Apple 平台的开源 Swift 工具包 AnySpeechRecognizer 与 AnyDecisionModel,支持直接从 Hugging Face Hub 下载开源模型并在设备端本地运行。

    Why it matters: 原文提供了面向苹果生态的统一接口规范与基准数据,开发者可据此了解如何在端侧高效运行开源语音识别与分类决策模型。

  3. 爱范儿 · AI 筛选71

    搭载 Android XR 与 Gemini 的 XREAL AURA 正式发售,首发价 1099 美元起Chinese

    XREAL 在 Google Android 开发者峰会上正式推出搭载 Android XR 操作系统的分体式 XR 眼镜 XREAL AURA,首发限时价 1099 美元起。

    Why it matters: 材料详述了分体式架构在算力与重量间的取舍方案,读者可以据此评估多模态大模型在轻量化空间计算终端上的实际落地路径。

  4. Hacker News · AI65

    Opera 在浏览器中内置端侧 AI 模型并支持 WebAI 标准Chinese

    Opera 宣布在旗下浏览器中直接内置端侧 AI 模型,并在 Opera One 早期预览版中上线基于 WebAI 标准的本地推理功能,后续将推向 Opera GX 和 Opera Neon。

    Why it matters: Opera 将端侧模型集成至浏览器并通过 WebAI 开放接口,使扩展与网页无需依赖云端算力即可实现本地 AI 功能。

  5. Hacker News · AI64

    iOS 27.2 支持在 Siri AI 中排除指定应用Chinese

    iOS 27.2 新增了在 Siri AI 中“排除应用”(Exclude Apps)的设置,允许用户阻止系统 AI 访问敏感应用数据。用户可通过“设置 > Siri > 排除应用”将特定应用加入排除列表,加入后 Siri AI 将无法读取该应用内容,屏幕感知功能也会在该应用内停用。

    Why it matters: 梳理了系统级 AI 访问限制的具体配置与功能代价,为评估移动端 AI 与加密数据隐私的平衡提供了清晰参考。

  6. Google Developers · AI 筛选68

    Google Play services 升级 LiteRT,应用体积减小 8 MB 且 GPU 推理提速 1.4 倍Chinese

    Google 宣布 Google Play services 中的端侧推理运行时 LiteRT 迎来升级,通过新的 CompiledModel API 配合 ML Drift 引擎,使 GPU 推理速度相比传统 GPU delegate 提升约 1.4 倍。

    Why it matters: 通过系统服务内置推理运行时与新编译接口,开发者无需打包完整运行库即可缩减安装体积并提升端侧执行效率。

  7. IT之家 · AI 筛选76

    苹果发布首款触控 MacBook Pro:最高 128GB 统一内存,M5 Max 支持本地运行千亿参数模型Chinese

    苹果发布配备 PROLED XDR 显示屏的首款触控 MacBook Pro,搭载 M5 Pro 与 M5 Max 芯片,最高配备 128GB 统一内存,支持在端侧直接运行数千亿参数的大语言模型。

    Why it matters: 原文给出了芯片规格和内存上限,读者可以据此评估在端侧本地运行大模型的硬件支持能力。

Oct 28Wed
  1. NVIDIA · AI 筛选70

    NVIDIA RTX Spark 笔记本扩展端侧生态,支持 Nemotron 3.5 语音模型与智能体 GPU 调度Chinese

    NVIDIA 宣布 RTX Spark Windows 笔记本已在华硕、戴尔、惠普、联想等多品牌开售,起售价 $2,599,最高配备 128GB 统一内存和 1 PFLOPS FP4 性能。

    Why it matters: 汇总了超轻薄硬件、开源语音模型与后台智能体调度的结合方案,读者可借此评估端侧 AI 工作流的落地门槛。