arXiv 自然语言处理· Rongguang Ye, Zhan Zhuang, Yichen Wu, Ming Tang, Kede Ma·· 2 天前AI 评分34
面向大语言模型持续适应的锚定提示词空间学习
Learning an Anchored Prompt Space for Continual Adaptation of Large Language Models
AI 导读
针对大语言模型持续适应中历史提示词失效与跨任务迁移受限问题,研究者提出锚定提示词空间学习方法 LAPS。LAPS 通过自蒸馏对齐历史软提示词与更新后的模型,并利用可学习贝塞尔控制提示词构建几何空间以促进知识正向迁移。在 TRACE 基准及三种 Qwen3 规模上的实验表明,LAPS 在减少遗忘的同时持续提升了平均性能。
来源:arXiv 自然语言处理 · arxiv.org