arXiv 人工智能· Vincent-Daniel Yun, Woosang Lim, Haneul Yoo, Sungjoo Yoo, Murali Annavaram, Sai Praneeth Karimireddy·· 1 天前AI 评分42
HeteroFold：面向异构多智能体 LLM 的免预填充跨家族 KV Cache 传输
Prefill-Free Cross-Family KV Cache Transfer for Heterogeneous Multi-Agent LLMs
AI 导读
研究人员提出免预填充跨家族 KV cache 传输方法 HeteroFold，在保持发送端与接收端模型完全冻结的前提下，解决了异构多智能体 LLM 协作时的分词与表征差异。
来源：arXiv 人工智能 · arxiv.org