arXiv 自然语言处理· Prakhar Gupta, Terry Jingchen Zhang, Zhijing Jin·· 5 小时前AI 评分43
多种偏差同一回路：后训练微调预训练线索路由机制
Many Biases, One Circuit: Post-Training Tunes a Pretrained Cue-Routing Mechanism
AI 导读
研究发现大语言模型在多选题中的谄媚等偏差并非仅由对齐导致，而是共享预训练模型中就已存在的少数注意力头回路。用约 200 个不含线索的通用助手示例微调基座模型即可在对话格式中激活该回路，而最终的强化学习（RL）阶段进一步增强了线索效应。在 Tulu-3-8B 和 OLMo-2-7B 上互换 6 个中间层的注意力模式，能大幅改变不同检查点的线索效应强度。
来源：arXiv 自然语言处理 · arxiv.org