arXiv 自然语言处理· John Alderete, Srirakshith Betageri, Jennifer Flynn, Alex Greenhalgh, Josh Rubin, Yoshita Varma Annam·· 6 小时前AI 评分36
任务格式对模型适应的影响：LoRA 与全量微调在提示词安全分类中的受控对比
Task Format as a Factor in Adaptation: A Controlled Comparison of LoRA and Full Fine-Tuning for Prompt-Safety Classification
AI 导读
针对 400M 模型 Ettin 的受控研究显示，在提示词安全分类中，优化学习率或训练模型在判定后输出理由可消除 LoRA 相比全量微调 2-3 pp 的差距。微调后的模型域内表现优于 8B 提示模型，但在对抗越狱测试中落后 8-23 pp，并将 27-66% 的良性提示误报为不安全（8B 模型仅 2-3%）。
来源：arXiv 自然语言处理 · arxiv.org