跳到正文
原文
Apple Machine Learning Research·· 22 小时前AI 评分42

Apple:更快的检索助力更优、更高效的 RAG

Faster Retrieval for Better, More Efficient RAG

AI 导读

Apple 研究人员提出利用小型神经网络学习支撑函数,以此摊销最大内积搜索(MIPS)计算成本,为 RAG 实现更快、更准的向量检索。该方案离线训练 SupportNet 学习支撑函数以优化聚类路由,并设计 KeyNet 模型直接预测最佳匹配键向量。模型基于实际查询分布进行监督训练,在推理阶段大幅降低比对开销。

来源:Apple Machine Learning Research · machinelearning.apple.com