跳到正文
原文
AITNT · AI头条(网页)·· 3 小时前AI 评分43

DHSA实现大模型推理时偏好对齐:仅需256至16384个控制参数达到DPO水准

偏好对齐也能在推理时完成!256-16384个控制参数达到DPO水准

AI 导读

研究团队提出直接隐状态对齐(DHSA)方法,通过因果激活状态转移(CAST)在冻结基座权重的前提下直接调控推理时隐状态。在ConFiQA、IMDb和TL;DR任务中,CAST仅需256至16,384个控制参数即可达到与DPO相当的对齐水平。该方案支持仅在prefill阶段介入,并能叠加至现有DPO模型上进一步改善表现。

来源:AITNT · AI头条(网页) · aitntnews.com