提示词无关的大语言模型

研究人员提出 Prompt-TIES 与 Prompt-DARE 两种梯度合并方法，在指令微调阶段解决提示词改写引发的梯度干扰，提升大语言模型的提示词鲁棒性。实验显示提示词改写存在 57% 的梯度符号冲突，而新方法在几乎不牺牲准确率的情况下将全量微调模型的单样本方差减半。该评估覆盖 2 个模型家族共 4 款模型，代码与模型权重均已开源。