Skip to content

On-device AI

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

206selectedRelated topics部署工程开源生态模型发布

Latest selected

141–160 of 206
Oct 8Thu
  1. 爱范儿 · AI 筛选73

    微软联合 NVIDIA 发布 Surface Laptop Ultra 并推出 Windows 混合智能系统Chinese

    微软联合 NVIDIA 推出 Surface Laptop Ultra 及一系列开发者硬件,并全面升级 Windows 的智能体调度与混合智能架构。Surface Laptop Ultra 搭载 NVIDIA RTX Spark Superchip,最高提供 128GB 统一内存和 1 petaflop AI 算力,起售价 2599 美元。

    Why it matters: 微软通过统一内存硬件、执行容器与云网调度,展示了个人电脑承接本地智能体与常驻算力的具体路径。

  2. AITNT · AI头条(网页)78

    微软发布 Surface Laptop Ultra 与 RTX Spark PC 系列,支持本地运行 1200 亿参数大模型Chinese

    微软发布搭载英伟达 RTX Spark N1X 超级芯片的 Surface Laptop Ultra,起售价 2599 美元,最高配备 128GB 统一内存与 1PFLOPS FP4 本地 AI 算力,支持在本地运行超过 1200 亿参数的模型。

    Why it matters: 微软展示了从超级芯片硬件到系统级沙箱执行层的完整方案,为端侧运行千亿参数模型与本地智能体编排提供了落地参考。

  3. AITNT · AI头条(网页)82

    谷歌开源原生多模态嵌入模型 EmbeddingGemma 2Chinese

    谷歌开源 740M 参数的原生多模态嵌入模型 EmbeddingGemma 2,支持在手机、PC 等设备离线实现文本、图片、视频与音频的统一语义检索。完整多模态模型量化后内存占用约 567MB(纯文本版约 191MB),具备 8K 上下文窗口并支持 100 多种语言,可在本地配合大语言模型构建隐私优先的离线 RAG 与代码检索工作流。

    Why it matters: 原文展示了模型在端侧与浏览器离线运行的性能表现与模块拆分方案,读者可以据此评估多模态本地 RAG 的落地可行性。

  4. 爱范儿 · AI 筛选74

    微软与英伟达发布 RTX Spark 芯片及 Surface Laptop Ultra 笔记本Chinese

    微软联合英伟达推出专为本地 AI 打造的 RTX Spark 计算平台,并发布首款搭载该芯片的旗舰笔记本 Surface Laptop Ultra。RTX Spark 采用 ARM 架构与最高 128GB 统一内存,具备最高 1 PFLOP 的 FP4 算力并支持在本地运行 1250 亿参数大模型。

    Why it matters: 微软与英伟达通过统一内存架构重塑端侧计算平台,展示了本地智能体接管桌面工作流的硬件落地路径。

  5. Ars Technica · AI 筛选67

    微软发布 Surface Laptop Ultra 并公布 Windows 11 端侧 AI 变动Chinese

    微软在发布会上推出搭载 Nvidia RTX Spark SoC 的 Surface Laptop Ultra,起售价 2,599 美元,并公布了 Windows 11 的更新及本地 AI 智能体工作流愿景。

    Why it matters: 原文给出了统一内存架构与核心规格,读者可以据此评估其对本地大模型开发与推理工作流的支持能力。

  6. Hacker News · AI73

    微软 Windows ML 引入 llama.cpp 支持并升级 Windows 端侧 AI 开发栈Chinese

    微软宣布 Windows ML 增加对 llama.cpp 的实验性支持,允许开发者通过统一接口直接在本地运行 GGUF 格式模型。本次更新推出了兼容 OpenAI 接口规范的 Text Generation API 与 Speech Recognition API,并上线了提供确定性多模型流水线及零拷贝数据路径的 Windows ML Runtime API 预览版。

    Why it matters: 原文给出了 Windows ML 整合 llama.cpp 与 GGUF 的原生链路,开发者可据此评估端侧部署与跨架构优化的适配路径。

  7. The Verge · AI 筛选69

    微软 Surface 发布会汇总:Surface Laptop Ultra 亮相与 Windows 混合智能更新Chinese

    微软在旧金山发布会正式公布 Surface Laptop Ultra 与 Windows 新特性,新笔记本搭载 Nvidia RTX Spark Arm 芯片并改用磁吸 USB-C 充电,起售价 $2,599,定于 10 月 16 日发售。

    Why it matters: 汇总了微软最新硬件配置与系统级混合智能特性,便于读者快速掌握端侧算力与本地 AI 交互更新。

  8. NVIDIA · AI 筛选78

    NVIDIA 与微软联合推出 RTX Spark 和 DGX Station for Windows,加速端侧 AI 智能体落地Chinese

    NVIDIA 与微软联合推出面向端侧 AI 智能体的 RTX Spark 芯片与 DGX Station for Windows,微软同时推出系统级容器 MXC 保障智能体后台常驻安全。

    Why it matters: 文章展现了端侧硬件与操作系统底层协同的最新进展,为开发者在 Windows 环境下本地部署大模型与常驻智能体提供了具体配置参考。

  9. The Verge · AI 筛选68

    微软开启 Surface RTX Spark Dev Box 预购,售价 5999 美元Chinese

    微软面向开发者的高端 AI 迷你电脑 Surface RTX Spark Dev Box 现已开启预购,售价 5999 美元并预计于 11 月发货。该设备采用基于 Arm 架构的 Nvidia RTX Spark 平台,配备 128GB 统一内存与 100W 散热设计,针对运行超 120B 参数的本地 AI 模型、构建 AI 智能体原型及端侧运行 AI 编码工具进行了优化。

    Why it matters: 针对开发者本地运行大模型和智能体开发的需求,文章提供了硬件规格、预装环境与发售细节。

  10. The Verge · AI 筛选75

    微软如何打造对标 MacBook Pro 的 Surface Laptop UltraChinese

    微软通过与英伟达联合打造搭载 RTX Spark Arm 芯片的 Surface Laptop Ultra,并依托自动化硬件实验室的严苛测试,正面竞争高端笔记本市场。

    Why it matters: 文章披露了微软硬件实验室的自动化测试与磁吸接口设计细节,读者可据此了解 Windows 阵营冲击高端工作站体验的工程路径。

Oct 7Wed
  1. TechCrunch AI60

    iPod 之父 Tony Fadell 谈初代 AI 硬件为何失败与下一代智能体形态Chinese

    iPod 之父 Tony Fadell 在 MIT Future Fest 上指出,Rabbit R1、Humane Ai pin 和 Limitless pendant 等初代 AI 硬件之所以停产,是因为它们未解决任何实际痛点且缺乏用户信任基础。

    Why it matters: Tony Fadell 结合硬件研发经验分析了初代 AI 硬件脱离真实痛点与信任基础的原因,为评估端侧智能体的落地路径提供了参考。

  2. Hacker News · AI62

    Google Chrome 内置 AI API 被指正被用于设备指纹识别与用户画像Chinese

    Google Chrome 的 AI API 正被部分网站用于设备指纹识别与广告画像分析。研究人员对 100 家头部英文消费类内容网站进行取证审计后发现,约 30% 的网站调用了该 AI API 用于指纹识别或画像,尽管 Google 此前曾保证该接口不存在隐私风险;审计还指出所测网站均涉嫌违反欧盟相关法律。

    Why it matters: 作者通过对头部内容网站的取证审计揭示了端侧接口被滥用于用户追踪的现状,为评估浏览器 AI 的隐私风险提供了实测参考。

  3. Hacker News · AI66

    Mac Studio 本地运行多模型实践:256GB 统一内存的多槽位预算与推理基准Chinese

    作者在配备 256 GB 统一内存的 Mac Studio 上搭建了四槽位本地模型常驻架构,结合 Qwen3.8、Gemma 4、DeepSeek V4 Flash 与 Clef-Flash 等模型分工运行。

    Why it matters: 文章给出了在超大内存硬件上常驻多模型的显存预算表与速度基准,读者可参考其将云端规划与本地低成本执行相结合的分工方案。

  4. IT之家 · AI 筛选83

    谷歌发布多模态嵌入模型 EmbeddingGemma 2:7.4 亿参数支持端侧跨模态检索Chinese

    谷歌正式推出多模态嵌入模型 EmbeddingGemma 2,总参数量 7.4 亿并采用 Apache 2.0 开源协议,支持将文本、代码、图像、视频和音频统一映射到同一嵌入空间。

    Why it matters: 模型将多模态嵌入统一映射并支持模块化加载,为端侧离线跨模态检索和隐私优先的RAG工作流提供了轻量方案。

  5. Buzzing HN · 中文精选75

    Google 发布端侧多模态嵌入模型 EmbeddingGemma 2Chinese

    Google 推出端侧多模态嵌入模型 EmbeddingGemma 2,基于 Gemma 4 架构构建并采用 Apache 2.0 协议开源,原生支持将文本、代码、图像、音频与视频统一映射至同一嵌入空间。

    Why it matters: 模型将文本、代码、图像、音视频统一映射至同一嵌入空间,为离线端侧检索与多模态 RAG 提供了低显存占用的轻量化方案。