arXiv 机器学习· Jiachen Zhao, Antonia Januszewicz, Taeho Jung·· 5 小时前AI 评分36
提示词级差分隐私下的奖励驱动学习研究
Reward-Driven Learning under Prompt-Level Differential Privacy
AI 导读
该研究提出了首个针对可验证奖励强化学习（RLVR）的提示词级差分隐私训练方法，通过聚合单个提示词的多响应梯度并单次裁剪加噪来保护训练数据隐私。在 Qwen2.5-1.5B-Instruct 上结合 LoRA 以 $\epsilon=8$ 预算训练，模型在 MATH 和 GSM8K 上的准确率相比私有监督微调方案提升 2.3 至 3.8 分。
来源：arXiv 机器学习 · arxiv.org