Hugging Face·· 9 小时前精选AI 评分65
Granite Switch 4.1 发布:单端点整合对话、决策与语音识别能力
Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint
AI 导读
Granite Switch 4.1 系列模型(8B 与 30B)正式发布,将通用决策 aLoRA、安全决策 Guardian aLoRA 以及语音识别模型整合至单一托管端点。适配器与基座模型共享显存并复用基座生成的 KV cache,可在对话响应、多步骤决策及语音转文字等任务间快速切换。该系列模型支持开箱即用,官方后续还将发布 Adapter SDK 供社区训练与组合自定义适配器。
推荐理由
原文展示了多适配器共享显存与缓存的架构设计,读者可以参考如何以低开销在单端点组合多任务工作流。
来源:Hugging Face · huggingface.co