Hugging Face·· 20 日前厳選AI スコア71
Liquid AI 推出端侧推理模型 LFM2.5-24B-A2B
Run fast, private agents on-device with LFM2.5-24B-A2B
未翻訳のため中国語で表示しています。
AI ガイド
Liquid AI 开源发布推理模型 LFM2.5-24B-A2B,拥有 24B 总参数与 2B 激活参数,专为端侧高速、私密的智能体任务设计。模型上下文窗口扩展至 131K tokens,在 M5 Max 上解码速度达 184 tokens/s,在单张 B300 上高并发输出达 21K tokens/s。
推薦理由
原文提供了端侧高吞吐和工具调用的实测对比,读者可以据此评估在本地硬件上部署连续运行智能体的可行性。
出典:Hugging Face · huggingface.co