跳到正文
原文
arXiv 自然语言处理· Xi Ding, Naichen Shi, Jiawei Zhang·· 5 小时前AI 评分38

STAVE:用两个向量替代上下文示例的结构化任务自适应

Two Vectors Replace In-Context Demos: Structured Task Adaptation via Embeddings

AI 导读

研究提出 STAVE 方法,通过在现有输入嵌入中添加 readout 向量与 context 向量,以 zero-shot 推理成本替代上下文学习(ICL)示例。两向量分别更新答案生成 token 和其他结构化 token 组。在 6 个 LMM 和 5 个 LLM 上的实验表明,STAVE 在多模态任务上达到或超越 SOTA,并在 18 个文本任务上超越 15-shot ICL。

来源:arXiv 自然语言处理 · arxiv.org