热点事件持续更新
淘宝MNN团队开源端侧模型MNN-Pocket-0.3B
2 篇报道2 个报道来源44 分钟前更新
先了解这件事
AI 综述
2026年11月6日,淘宝MNN团队开源了约3亿参数的轻量端侧语言模型MNN-Pocket-0.3B,重点面向手机端本地运行及高频应用共享算力与内存的环境。在部署与性能方面,该模型经INT4量化后的部署文件体积为173MB。实际测试数据显示,其在iPad Pro M5设备上的峰值运行(驻留)内存增量为228MB,解码吞吐达466 token/s;在iPhone 18 Pro上完全离线运行时,平均解码速度约达350 token/s。
AI 根据报道生成 · 30 分钟前更新
最新进展11月6日 11:50
新测试数据显示,模型在iPhone 18 Pro上完全离线运行的平均解码速度约达350 token/s。报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- IT之家 · AI 筛选淘宝 MNN 团队开源 MNN-Pocket-0.3B 端侧模型,iPhone 18 Pro 离线解码达 350 token/s
淘宝 MNN 团队开源了约 3 亿参数的轻量语言模型 MNN-Pocket-0.3B,INT4 部署文件体积为 173MB,重点面向手机端本地运行。该模型在 iPhone 18 Pro 上完全离线运行的平均解码速度约 350 token/s,在 iPad Pro M5 下峰值驻留内存增量为 228MB、解码吞吐达 466 token/s。
- AITNT · AI头条淘宝 MNN 团队开源端侧模型 MNN-Pocket-0.3B
淘宝 MNN 团队开源轻量端侧语言模型 MNN-Pocket-0.3B,专为手机高频应用共享算力与内存的运行环境设计。模型 INT4 量化部署体积仅 173MB,在 iPad Pro M5 上解码吞吐达 466 token/s,峰值运行内存增量为 228MB。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。