Nvidia 发布 Nemotron 3.5 系列开源模型，面向企业 Agent 与本地 PC 端侧部署Chinese
Nvidia 推出 Nemotron 3.5 Super VL 及两款轻量级 Bolt 开源权重模型，主要用于企业端常驻 Agent 与本地 AI PC 的边缘计算。
Why it matters: Nvidia 通过推出覆盖云端与本地 PC 的开源权重模型组合，展现了企业绕过闭源 API 在本地运行 Agent 的可行路径。
On-device AI
All topics跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
Latest selected
61–80 of 206TechCrunch AISelectedAI score7676
LlamaIndex 官方博客（网页）SelectedAI score7070 LlamaIndex 发布 LiteParse v2.0：采用 Rust 重写并支持 WASM 与边缘端运行Chinese
LlamaIndex 发布文档解析工具 LiteParse v2.0，使用 Rust 完全重写了底层核心，并提供原生 Rust、Python、Node 以及支持浏览器与边缘运行时的 WASM 包。
Why it matters: 原文提供了 Rust 重构后的跨语言与 WASM 支持细节及实测解析耗时，适合为本地文档解析与智能体工具选型提供参考。
Hacker News · AISelectedAI score6161 轻量级开源离线桌面 AI 助手 GhostOS 发布Chinese
开源桌面 AI 助手 GhostOS 正式发布，支持在 macOS、Windows 和 Linux 上完全离线运行。该工具采用系统原生网页引擎将桌面 UI 内存占用压缩至约 35MB，并通过动态显存调度机制在 150 毫秒内热插拔大语言模型、视觉模型与 Whisper，使峰值显存保持在 3.5GB 以内。
Why it matters: 针对本地大模型桌面客户端内存占用过高的问题，该项目通过系统原生渲染引擎与显存动态热插拔实现了低配置设备流畅运行。
Hacker News · AISelectedAI score6161 Killa YuE 发布：支持在 Android 手机本地 GPU 运行 YuE2 生成完整人声歌曲Chinese
开源 Android 原生应用 Killa YuE 正式推出，支持在手机本地 GPU 上完整运行 M-A-P 的开源歌词成曲模型 YuE2 并生成含人声的完整歌曲。
Why it matters: 该项目展示了在安卓手机本地利用定制驱动运行歌词生成音乐大模型的完整方案，为端侧长推理任务的部署提供了参考。
ServeTheHomeSelectedAI score7474 NVIDIA 正式推出 RTX Spark N1X 处理器加速布局 Windows 平台Chinese
NVIDIA 正式推出面向 Windows 生态的高端 Arm 处理器 RTX Spark N1X，首批搭载于微软 Surface Laptop Ultra 等多款笔记本体与迷你开发机。
Why it matters: 文章详细梳理了该芯片的双芯粒架构与显存设计，有助于评估其对高端消费级移动计算平台格局的实际影响。
NVIDIA · AI 筛选SelectedAI score7373 NVIDIA RTX Spark 笔记本电脑正式发售，起售价 2399 美元Chinese
NVIDIA 宣布 RTX Spark 笔记本电脑正式开售，起售价为 $2,399。该系列机型将 Blackwell RTX GPU 与 Grace CPU 集成于单颗超级芯片中，提供最高 128GB 统一内存和最高 1 petaflop 的 AI 算力。华硕、戴尔、惠普、联想、微软和微星均推出了搭载该芯片的轻薄 Windows 设备，相关发售庆祝活动已在柏林、北京、首尔和旧金山等全球多地举行。
Why it matters: 原文给出了端侧超级芯片的算力配置与厂商落地机型，有助于读者了解高规格统一内存向便携设备的下沉落地。
Hacker News · AISelectedAI score7878 Mac 本地大语言模型运行能力与生成速度计算器上线Chinese
开发者推出 Mac 本地大语言模型计算器，可通过芯片统一内存与内存带宽测算各型号 Mac 能否装载特定模型以及预期的生成速度（tokens/sec）。该计算器结合 90.8% 的理论带宽与 3.3 ms 的每 token 固定开销进行建模，实测密集模型误差在 4.6% 以内，并针对 MoE 模型修正了共享层读取开销。测算方法、原始基准测试数据与代码已在 GitHub 以 MIT 协议开源。
Why it matters: 工具通过统一内存容量与带宽拟合公式测算各款Mac运行本地大语言模型的配置门槛与生成速度，为端侧硬件选型提供了量化参考。
Hacker News · AISelectedAI score6060 开源工具 Llmspeed 上线：支持在购入硬件前模拟评估本地大语言模型运行速度Chinese
开源工具 Llmspeed 正式上线并在 GitHub 开源，支持用户在选购硬件前直观模拟并评估本地大语言模型的运行速度。平台覆盖了 NVIDIA 显卡、AMD 处理器及显卡、苹果 Mac 系列以及云端 GPU 等多种设备，并支持 Qwen、DeepSeek 等多款开源模型。其数据来源于 r/LocalLLaMA 等社区实测基准以及基于硬件规格的推算，支持按硬件或按模型维度查询单设备上的运行表现。
Why it matters: 该工具汇总了社区实测基准与规格推算数据，便于开发者在采购硬件前直观评估各型号本地大语言模型的运行速度。
AITNT · AI头条（网页）SelectedAI score7979 英伟达发布Nemotron 3.5 Bolt端侧模型并开售RTX Spark笔记本Chinese
英伟达开放740亿参数Nemotron 3.5 Bolt模型权重，将原本约148GB的权重压缩至22.1GB以支持24GB级本地部署，同时搭载RTX Spark芯片的笔记本正式全球发售。
Why it matters: 原文展现了通过结构裁剪与混合精度量化将74B大模型压至端侧的实现路径，便于读者评估本地智能体的硬件门槛。
Hacker News · AISelectedAI score6969 Google 为 Android 推出基于 Gemini 的防诈骗与伪造电话拦截功能Chinese
Google 宣布为 Android 系统推出基于 AI 的诈骗短信与呼叫转移滥用防御机制，通过云端与端侧模型协同应对复杂通信欺诈。Google Messages 将在 Private AI Compute 加密环境中调用 Gemini 分析未知发件人的对话，并结合端侧 Gemini Nano 实时检测未知链接；该功能还扩展了屏幕共享下的敏感信息遮蔽，并禁止应用在后台静默启用呼叫转移。
Why it matters: 原文详细展示了云端与端侧大模型协同防护的技术落地细节，有助于了解移动安全防护架构的具体演进。
Buzzing HN · 中文精选SelectedAI score8484 Black Forest Labs 开源 5.6B 图像模型 FLUX 3 Image KleinChinese
Black Forest Labs 正式开源 5.6B 参数的文本到图像生成与编辑模型 FLUX 3 Image Klein，支持原生 4K 生成、像素级编辑及最多 10 张多参考图生成。
Why it matters: 材料展示了该模型在参数压缩与端侧轻量部署上的实测数据，便于评估消费级显卡的本地运行成本。
Ars Technica · AI 筛选SelectedAI score6464 Ray-Ban Meta 智能眼镜曝出漏洞，加剧非自愿录制隐私担忧Chinese
Ray-Ban Meta 智能眼镜被曝出现漏洞，即使指示灯工作也可能导致设备在佩戴者不知情的情况下意外录制音视频。此前肯尼亚数据标注承包商 Sama 员工已透露曾审查过用户误录的私密画面，该事件在美国引发了集体诉讼及得克萨斯州总检察长的调查。相关隐私缺陷不仅推动了反偷拍检测工具的出现，也促使挪威等国家考虑通过立法或临时禁令限制此类穿戴设备。
Why it matters: 文章结合数据标注员工爆料与监管诉讼背景，指出了智能眼镜在无意录制和隐私防护上面临的系统性合规风险。
ServeTheHomeSelectedAI score6767 微软 Surface Laptop Ultra 评测：搭载英伟达 RTX Spark 芯片的高端 Arm 笔记本Chinese
ServeTheHome 发布微软 Surface Laptop Ultra 评测，该机搭载英伟达 RTX Spark N1X SoC 与 Blackwell 架构集成 GPU，是微软全面对标苹果 MacBook Pro 的旗舰级 Windows-on-Arm 开发者笔记本。
Why it matters: 评测拆解了搭载英伟达Arm架构芯片的高端Windows笔记本硬件设计，读者可以了解其在规格和接口上对标苹果MacBook Pro的实际差异。
Solidot · AI 筛选SelectedAI score8282 Meta 发布开放权重多模态模型 Muse Spark OpenChinese
Meta 发布多模态开放权重模型 Muse Spark Open，总参数达 8160 亿，激活参数为 420 亿，支持 100 万 Token 上下文。该模型基于苹果开源数组框架 MLX 优化统一内存架构，两台最高配 512GB 内存且搭载 M5 Ultra 芯片的 Mac Studio 即可容纳完整模型，目前已在 Hugging Face 开源上线。
Why it matters: 原文给出了模型总参数、激活参数规模与具体硬件部署方案，读者可以据此评估本地大显存端侧部署可行性。
Hacker News · AISelectedAI score6868 NVIDIA 发布 RTX Spark 平台与 DLSS 5：整合 Blackwell 与 Grace 架构主打端侧 AI 与游戏Chinese
NVIDIA 推出面向本地 AI、创作与游戏的 RTX Spark 平台，首批笔记本定于 2026 年 10 月 16 日上市。硬件核心采用 Blackwell GPU 搭配 Grace CPU，提供最高 128 GB 统一内存、1 PFLOPS 的 FP4 AI 算力及 45 至 80 瓦 TDP 设计，可本地运行最高 120B 参数大模型。
Why it matters: 平台整合了统一内存与神经渲染架构，读者可据此评估大参数模型在本地轻薄设备上的运行可行性与软硬件门槛。
The Verge · AI 筛选SelectedAI score6666 The Verge 实测英伟达 RTX Spark 笔记本一周体验Chinese
The Verge 对首批搭载英伟达 RTX Spark N1X 处理器的 Windows on Arm 笔记本进行了深度实测，涵盖微软 Surface Laptop Ultra、华硕 ProArt P16 与联想 Yoga 9n 等机型。
Why it matters: 实测给出了该芯片在本地AI与游戏负载下的详细表现，读者可借此评估高昂售价与发热功耗是否匹配自身场景。
Hacker News · AISelectedAI score6565 亚马逊推出两款 Bee 个人 AI 硬件：穿戴设备 Bee Frontier 与磁吸配件 Bee EclipseChinese
亚马逊旗下 Bee 推出两款个人 AI 硬件设备，分别为腕戴或衣夹式穿戴设备 Bee Frontier（售价 $74.99）以及磁吸手机配件 Bee Eclipse（起售价 $99.99）。
Why it matters: 原文给出了两款端侧 AI 硬件的具体参数、续航与定价模式，读者可以据此评估个人记忆助理类设备的产品形态演进。
爱范儿 · AI 筛选SelectedAI score6767 首款英伟达 RTX Spark 笔记本华硕 ProArt 创16 实测：端侧大模型推理与续航表现Chinese
首批搭载英伟达 RTX Spark 超级芯片的华硕 ProArt 创16 笔记本正式开售，64GB 与 128GB 统一内存版本售价分别为 28999 元和 37999 元。
Why it matters: 实测展示了英伟达ARM超级芯片在Windows笔记本上的端侧推理速度与功耗表现，为评估移动端大模型工作站提供了参考。
IT168 服务器存储 · AI与算力（网页）SelectedAI score7272 理想汽车旗下芯片子公司马赫心科技完成首轮16.25亿元融资，投后估值最高达171亿元Chinese
理想汽车旗下芯片子公司马赫心科技签署首轮16.25亿元人民币融资协议，由杭州经韬、蓝驰创投及华业天成领投，追加认购权若行使投后估值将达171亿元，理想汽车持股74.01%保持控股。其自研5nm车规级芯片马赫M100单颗算力达1280 TOPS，已在新一代理想量产车型搭载。本次融资将用于全栈芯片研发与商业化，并推动业务拓展至汽车以外的应用领域。
Why it matters: 该交易展现了整车厂推动自研端侧芯片独立商业化运作的路径，并披露了其5nm车规级AI芯片的关键算力指标与量产落地情况。
AITNT · AI头条（网页）SelectedAI score8585 Meta 开源 816B 原生多模态模型 Muse Spark Open，支持双 Mac Studio 桌面部署Chinese
Meta 正式开源原生多模态模型 Muse Spark Open，采用 MoE 架构，总参数量 816B、激活参数 42B，支持 1M token 上下文窗口及文本、图像、视频和音频输入。该模型专为长程任务、代码工程与复杂推理设计，可通过两台搭载 M5 Ultra 芯片的 Mac Studio 连接实现本地运行，并在主流推理框架与云平台上同步开放权重下载与 API 接入。
Why it matters: 原文给出了超大 MoE 架构在消费级桌面硬件上的部署规格与实测吞吐，为大模型本地化运行提供了具体参考。