arXiv 自然语言处理· Isaac Olufadewa, Miracle Adesina, Ezekiel Oladejo, Owen Adeniyi, Fadare Fadekemi, Olamide Oso, Uthman Babatunde, Matthew Olawoyin·· 1 天前AI 评分40
超越上下文窗口：混合检索与长上下文大语言模型的自适应熵路由框架
Beyond the Context Window: An Adaptive Entropy-Based Routing Framework for Hybrid Retrieval and Long-Context Language Models
AI 导读
研究人员提出自适应路由框架 EDAR，利用 RAG 响应前几个 token 的预测熵，在推理时动态决策使用检索片段还是升级为完整长上下文处理。在 LongBench v2 与 Infinity-Bench 测试中，EDAR 仅升级 18.2% 的查询，在降低 70.7% 的 token 消耗的同时保留了长上下文基准 97.4% 的准确率。该框架无需额外监督，且不依赖特定检索器或底层模型。
来源：arXiv 自然语言处理 · arxiv.org