跳到正文
热点事件持续更新

无量火科技联合高通展示Ember端侧推理引擎

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月24日,无量火科技联合高通展示了Ember端侧推理引擎,支持手机在模型未经改动且质量无损的前提下跑通30B大模型。该引擎利用轻量模型预测推理所需参数,并从闪存进行按需加载。实测结果显示,Ember可将MoE模型的内存占用降低80%,将Dense模型的内存占用降低50%。此外,基于Ember打造的FlareOS仅需300MB出头的运行内存,即可支撑大模型与多个Agent同时运行。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月24日
  1. AITNT · AI头条
    无量火科技 Ember 推理引擎让 30B 大模型跑进手机

    无量火科技联合高通展示了 Ember 推理引擎,让手机在模型未经改动且质量无损的前提下跑通 30B 大模型。该引擎利用轻量模型预测推理所需参数并从闪存按需加载,实测将 MoE 模型内存占用降低 80%、Dense 模型降低 50%。此外,其基于 Ember 打造的 FlareOS 仅需 300MB 出头运行内存即可支撑大模型与多个 Agent 运行。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。