本文へスキップ
ホットトピック継続更新中

研究人员提出高效指令微调数据选择方法QSGS

1 件の報道1 件の報道元16 時間前 更新

まずこの件を把握する

AI 概要

2026年11月4日,arXiv发布的研究提出了一种面向高效指令微调的数据选择方法QSGS。该方法通过在梯度相似度图上进行子模优化,并结合梯度引导合成,以平衡目标相关性并抑制样本冗余。在Llama-2、Llama-3和Mistral等模型上的实验表明,QSGS在MMLU、BBH与TydiQA基准评测中均超越最强基线。其中,Mistral-7B仅需0.5%的数据预算即可匹敌或超越全量微调的表现,且在数据预算越紧缩时优势越显著。

AI が報道をもとに生成 · 15 時間前 更新

報道タイムライン

報道をたどり、出来事のさまざまな側面を知る。

11月4日
  1. arXiv 人工智能
    面向高效指令微调的基于查询子模数据选择方法

    研究人员提出高效指令微调数据选择方法 QSGS,通过梯度相似度图上的子模优化与梯度引导合成,平衡目标相关性并抑制样本冗余。在 Llama-2、Llama-3 和 Mistral 上的实验显示,QSGS 在 MMLU、BBH 与 TydiQA 上均超越最强基线。其中 Mistral-7B 仅用 0.5% 数据预算即匹敌或超越全量微调表现,预算越紧缩优势越显著。

このストーリーのホット度の推移

現在のホット度 7·比較可能範囲のピーク 10(11月4日 14:00)·直近24時間の比較可能な変化–

02.557.51011月4日14:0011月4日19:0011月4日23:0011月5日04:00

トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。