ホットトピック継続更新中
淘宝MNN团队开源端侧模型MNN-Pocket-0.3B
2 件の報道2 件の報道元2 時間前 更新
まずこの件を把握する
AI 概要
2026年11月6日,淘宝MNN团队开源了约3亿参数的轻量端侧语言模型MNN-Pocket-0.3B,重点面向手机端本地运行及高频应用共享算力与内存的环境。在部署与性能方面,该模型经INT4量化后的部署文件体积为173MB。实际测试数据显示,其在iPad Pro M5设备上的峰值运行(驻留)内存增量为228MB,解码吞吐达466 token/s;在iPhone 18 Pro上完全离线运行时,平均解码速度约达350 token/s。
AI が報道をもとに生成 · 1 時間前 更新
最新の進展11月6日 11:50
新测试数据显示,模型在iPhone 18 Pro上完全离线运行的平均解码速度约达350 token/s。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月6日
- IT之家 · AI 筛选淘宝 MNN 团队开源 MNN-Pocket-0.3B 端侧模型,iPhone 18 Pro 离线解码达 350 token/s
淘宝 MNN 团队开源了约 3 亿参数的轻量语言模型 MNN-Pocket-0.3B,INT4 部署文件体积为 173MB,重点面向手机端本地运行。该模型在 iPhone 18 Pro 上完全离线运行的平均解码速度约 350 token/s,在 iPad Pro M5 下峰值驻留内存增量为 228MB、解码吞吐达 466 token/s。
- AITNT · AI头条淘宝 MNN 团队开源端侧模型 MNN-Pocket-0.3B
淘宝 MNN 团队开源轻量端侧语言模型 MNN-Pocket-0.3B,专为手机高频应用共享算力与内存的运行环境设计。模型 INT4 量化部署体积仅 173MB,在 iPad Pro M5 上解码吞吐达 466 token/s,峰值运行内存增量为 228MB。
このストーリーのホット度の推移
連続した観測データが足りないため、トレンドはまだ描画しません。