arXiv 自然语言处理· Chand Sahil Mansuri, Joel Zachariah, Sadamori Kojaku·· 1 天前AI 评分45
Doc2LoRA 为科学想法提供可解码的表征
Doc2LoRA Provides Decodable Representations of Scientific Ideas
AI 导读
研究人员提出 Doc2LoRA 超网络，将每篇论文表征为一个 LoRA 适配器，使向量空间中的每个点及混合点都对应一个可直接用自然语言交互的 LLM。在 APS 论文实验中，该模型在命名子领域上超越了 5 个基线，并能生成随混合权重平滑过渡的论文摘要。结合可逆变换后，其嵌入向量在搜索性能上与 SPECTER2 和 EmbeddingGemma 相当并接近 SBERT，同时兼顾生成与检索能力。
来源：arXiv 自然语言处理 · arxiv.org