跳到正文
原文
arXiv 自然语言处理· Ananya Malik, Mai ElSherief·· 5 小时前AI 评分35

基于迭代零空间投影的人设子空间提取与大语言模型调节

Extracting Persona Subspaces Through Iterative Nullspace Projection For Modulation

AI 导读

研究提出推理期控制范式 PaSS,利用迭代零空间投影(INLP)将大语言模型的人设建模为多维潜空间子空间,无需重训即可线性提取并调节人设特征。在 MATH-500、TinyAlpaca、GSM8K 和 IFEval 等基准上对 6 个人设的评估表明,该方法相比单方向加性方法实现了更强的人设调节能力,同时兼顾了内容保真度与任务性能。

来源:arXiv 自然语言处理 · arxiv.org