arXiv 机器学习· Muhammad Haseeb, Muhammad Tahir·· 10 小时前AI 评分42
涌现性对齐失效模型是否共享同一计算回路？
Do Emergent Misalignment Models Share a Circuit?
AI 导读
研究人员通过分析基于 Qwen2.5-3B-Instruct 的三个 LoRA 微调模型发现，不同领域的涌现性对齐失效（EM）在注意力头层面存在共享的因果回路。
来源：arXiv 机器学习 · arxiv.org
Do Emergent Misalignment Models Share a Circuit?
研究人员通过分析基于 Qwen2.5-3B-Instruct 的三个 LoRA 微调模型发现，不同领域的涌现性对齐失效（EM）在注意力头层面存在共享的因果回路。
来源：arXiv 机器学习 · arxiv.org