研究团队提出HyperRepair框架恢复微调模型通用能力

1. 13:00
   arXiv 自然语言处理

   HyperRepair：恢复微调语言模型遗忘的通用能力

   HyperRepair 框架可在仅需推理成本的前提下，恢复微调语言模型遗忘的通用能力并保留领域专长。该方法利用超网络生成定制修复侧网（RSN），无需目标领域样本或额外优化即可泛化至未见领域。在 2 个模型族、12 个 LoRA 适配数据集和 15 个通用 benchmark 评测中，它实现了基座模型 93.4% 的平均通用得分，并保留微调模型 99.5% 的领域得分。

Current heat 9·Comparable peak 10（Nov 2 14:00）·Comparable change, last 24 hours–

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.