arXiv 机器学习· Ali Ebrahimpour-Boroojeny, Xiaocong Yang, Samuel Schapiro, Zahra Borhani, Francisco R. Ortega, Yujia Zheng, ChengXiang Zhai·· 3 小时前AI 评分40
通过无需训练的权重编辑抵御有害指令
Resisting Harmful Instructions through Training-Free Weight Editing
AI 导读
研究提出一种无需训练的模型权重编辑方法，仅需对少量提示词对进行前向传播即可直接修改权重，有效抵御有害指令。在 5 款指令微调模型的测试中，该方法在两个撒谎基准上将平均诚实响应率分别提升 6.2 和 4.6 个百分点。在指令性性别偏见测试中，平均偏见响应率从 57.9% 降至 24.3%，结合公平性提示词可进一步降至 11.9%。
来源：arXiv 机器学习 · arxiv.org