Buzzing HN · 中文精选· gmays·· 3 小时前精选AI 评分74
Liquid AI 发布端侧推理模型 LFM2.5-24B-A2B
LFM2.5-24B-A2B:专为高速设备端代理而设计
AI 导读
Liquid AI 推出 24B 参数的开源权重推理模型 LFM2.5-24B-A2B,每 token 仅激活 2B 参数,专为端侧高速智能体设计。模型将上下文窗口扩至 131,072 tokens,在 Apple M5 Max 设备上推理速度达 184 tokens/s,在多项工具调用基准中优于更大参数的 MoE 模型。
推荐理由
该模型展示了小激活参数量MoE在端侧运行工具调用与智能体任务的效率优势,为本地部署提供了参考。
来源:Buzzing HN · 中文精选 · liquid.ai