跳到正文
原文
arXiv 机器学习· Dongsen Zhang, Peipei Li, Zekun Li, Wenjun Xu·· 7 小时前AI 评分37

KITE:面向高效隐空间多智能体协作的任务导向关键层 KV 通信

Task-Oriented Key-Layer KV Communication for Efficient Latent Multi-Agent Collaboration

AI 导读

研究者提出免训练框架 KITE,通过识别接收端关键层并仅传输其对应的 KV 隐空间工作记忆,实现高效的隐空间多智能体协作。在 7 个 benchmark、2 个模型族及 3 种模型规模上的实验表明,相比全层 KV 通信,KITE 将通信量减少 28-36 倍,取得最高 3 倍端到端推理加速,并将准确率最高提升 23.3 个百分点。

来源:arXiv 机器学习 · arxiv.org