跳到正文
原文
arXiv 自然语言处理· Rongguang Ye, Zhan Zhuang, Yichen Wu, Ming Tang, Kede Ma·· 2 天前AI 评分34

面向大语言模型持续适应的锚定提示词空间学习

Learning an Anchored Prompt Space for Continual Adaptation of Large Language Models

AI 导读

针对大语言模型持续适应中历史提示词失效与跨任务迁移受限问题,研究者提出锚定提示词空间学习方法 LAPS。LAPS 通过自蒸馏对齐历史软提示词与更新后的模型,并利用可学习贝塞尔控制提示词构建几何空间以促进知识正向迁移。在 TRACE 基准及三种 Qwen3 规模上的实验表明,LAPS 在减少遗忘的同时持续提升了平均性能。

来源:arXiv 自然语言处理 · arxiv.org