arXiv 自然语言处理· Youmin Ko, Jihong Jeong, Hyunjoon Kim·· 1 日前AI スコア39
ShiftRAG：通过解耦学习与连续软 token 突破文本瓶颈
ShiftRAG: Bypassing the Textual Bottleneck via Decoupled Learning and Continuous Soft Tokens
未翻訳のため中国語で表示しています。
AI ガイド
研究人员提出解耦 RAG 框架 ShiftRAG，利用单一 LLM 主干将判别式检索学习与自回归生成隔离，以突破传统 RAG 的文本瓶颈。该框架将检索对齐映射为连续软 token 注入生成器，并通过软正交目标缓解 rank collapse。实验表明，ShiftRAG 显著提升了检索与问答性能，且在通用文本编码和生成任务中保持了效率与基础能力。
出典：arXiv 自然语言处理 · arxiv.org