arXiv 机器学习· Tora Bodin, Eric Aubinais, Ilaria Torre, Chih-Hong Cheng·· 8 小时前AI 评分36
Genesis Steering：利用训练数据提升大语言模型激活引导效果
Genesis Steering: Better Activation Steering Through Training Data
AI 导读
研究人员提出 Genesis Steering 方法，直接从大语言模型自身的微调数据中提取对比样本生成引导向量，并在数据不可用时借助成员推理构建代理数据集。在 Tülu-3-8B 和 Llama-3.1-8B-Instruct 上的实验表明，来自训练混合的内部安全数据比外部数据集能带来更强的引导效果。该方法还给出了关于决策边界最优位移和降低代理估计偏差的理论分析。
来源：arXiv 机器学习 · arxiv.org