Hugging Face·· 4 小时前精选AI 评分71
Liquid AI 推出端侧推理模型 LFM2.5-24B-A2B
Run fast, private agents on-device with LFM2.5-24B-A2B
AI 导读
Liquid AI 开源发布推理模型 LFM2.5-24B-A2B，拥有 24B 总参数与 2B 激活参数，专为端侧高速、私密的智能体任务设计。模型上下文窗口扩展至 131K tokens，在 M5 Max 上解码速度达 184 tokens/s，在单张 B300 上高并发输出达 21K tokens/s。
推荐理由
原文提供了端侧高吞吐和工具调用的实测对比，读者可以据此评估在本地硬件上部署连续运行智能体的可行性。
来源：Hugging Face · huggingface.co