Hot storiesContinuously updated
淘宝MNN团队开源端侧模型MNN-Pocket-0.3B
2 reports2 reporting sourcesUpdated 2 hours ago
Start here
AI overview
2026年11月6日，淘宝MNN团队开源了约3亿参数的轻量端侧语言模型MNN-Pocket-0.3B，重点面向手机端本地运行及高频应用共享算力与内存的环境。在部署与性能方面，该模型经INT4量化后的部署文件体积为173MB。实际测试数据显示，其在iPad Pro M5设备上的峰值运行（驻留）内存增量为228MB，解码吞吐达466 token/s；在iPhone 18 Pro上完全离线运行时，平均解码速度约达350 token/s。
AI-generated from reports · Updated 1 hour ago
Latest developmentsNov 6 11:50
新测试数据显示，模型在iPhone 18 Pro上完全离线运行的平均解码速度约达350 token/s。Report timeline
Follow the reports to see different sides of the story.
Nov 6
- IT之家 · AI 筛选淘宝 MNN 团队开源 MNN-Pocket-0.3B 端侧模型，iPhone 18 Pro 离线解码达 350 token/s
淘宝 MNN 团队开源了约 3 亿参数的轻量语言模型 MNN-Pocket-0.3B，INT4 部署文件体积为 173MB，重点面向手机端本地运行。该模型在 iPhone 18 Pro 上完全离线运行的平均解码速度约 350 token/s，在 iPad Pro M5 下峰值驻留内存增量为 228MB、解码吞吐达 466 token/s。
- AITNT · AI头条淘宝 MNN 团队开源端侧模型 MNN-Pocket-0.3B
淘宝 MNN 团队开源轻量端侧语言模型 MNN-Pocket-0.3B，专为手机高频应用共享算力与内存的运行环境设计。模型 INT4 量化部署体积仅 173MB，在 iPad Pro M5 上解码吞吐达 466 token/s，峰值运行内存增量为 228MB。
Story heat trend
Not enough continuous data yet to draw a trend.