arXiv 机器学习· Alexandros Xenos, Manos Plitsis, Niki Foteinopoulou, Yannis Panagakis, Ioannis Patras·· 8 小时前AI 评分38
用于激活导向的对比协方差子空间方法
Contrastive Covariance Subspaces for Activation Steering
AI 导读
研究人员提出无需训练的激活导向方法对比协方差导向(CCS),通过对比方差目标将导向向量投影到低维闭式解子空间以消除混淆干扰。在 3 个 LLM 和 4 个导向领域的全部 12 种设定中,CCS 均超越所有基线方法,在 AxBench 和 Emotion 上分别优于次优基准 48% 至 70% 和 13% 至 27%,较均值差导向最高提升 151%。
来源:arXiv 机器学习 · arxiv.org