arXiv 自然语言处理· Xin Li, Mengbing Liu, Hao Jiang, Xin Gao, Annan Wang, Xingwei Qu, Yichi Zhang, Chau Yuen·· 8 小时前AI 评分41
SYNC：跨大语言模型的免训练事实通信机制
Share the Symbol, Not the Vector: Training-Free Fact Communication Across Language Models
AI 导读
研究者提出符号索引神经通信机制 SYNC，发送方仅传递共享词表索引，接收方利用自身激活拟合出的词向量将事实直接写入隐藏状态，实现异构大语言模型间的免训练事实通信。在跨 5 个模型族的 9 个新型接收方测试中，四答案成功率达到 72.0%-98.3%，最大的两个接收方表现比肩纯文本通信。任务无关探测器在全部 45 种情况下均提前预测出适用的网络层深度。
来源：arXiv 自然语言处理 · arxiv.org