arXiv 人工智能· Zhenghao Zhao, Yasutomo Kawanishi, Huihuo Zheng, Michael E. Papka, Yan Yan·· 16 小时前AI 评分34
面向高效指令微调的基于查询子模数据选择方法
Query-based Submodular Data Selection for Efficient Instruction Tuning
AI 导读
研究人员提出高效指令微调数据选择方法 QSGS，通过梯度相似度图上的子模优化与梯度引导合成，平衡目标相关性并抑制样本冗余。在 Llama-2、Llama-3 和 Mistral 上的实验显示，QSGS 在 MMLU、BBH 与 TydiQA 上均超越最强基线。其中 Mistral-7B 仅用 0.5% 数据预算即匹敌或超越全量微调表现，预算越紧缩优势越显著。
来源：arXiv 人工智能 · arxiv.org