热点事件持续更新
无量火科技联合高通展示Ember端侧推理引擎
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月24日,无量火科技联合高通展示了Ember端侧推理引擎,支持手机在模型未经改动且质量无损的前提下跑通30B大模型。该引擎利用轻量模型预测推理所需参数,并从闪存进行按需加载。实测结果显示,Ember可将MoE模型的内存占用降低80%,将Dense模型的内存占用降低50%。此外,基于Ember打造的FlareOS仅需300MB出头的运行内存,即可支撑大模型与多个Agent同时运行。
AI 根据报道生成 · 2 小时前更新
最新进展10月24日 20:58
无量火科技联合高通展示Ember端侧推理引擎,实现手机无损运行30B大模型。报道时间线
沿着报道,了解事件的不同侧面。
10月24日
- AITNT · AI头条无量火科技 Ember 推理引擎让 30B 大模型跑进手机
无量火科技联合高通展示了 Ember 推理引擎,让手机在模型未经改动且质量无损的前提下跑通 30B 大模型。该引擎利用轻量模型预测推理所需参数并从闪存按需加载,实测将 MoE 模型内存占用降低 80%、Dense 模型降低 50%。此外,其基于 Ember 打造的 FlareOS 仅需 300MB 出头运行内存即可支撑大模型与多个 Agent 运行。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。