ホットトピック継続更新中
研究团队提出异步RL优化方法Li²SAO
1 件の報道1 件の報道元8 時間前 更新
まずこの件を把握する
AI 概要
2026年11月2日，研究人员在arXiv发布研究，提出轻量级单轨迹异步强化学习优化方法Li²SAO。该方法旨在解决在缺乏预训练价值模型时，单轨迹异步优化在训练早期落后于GRPO的问题。Li²SAO在critic冷启动阶段利用组相对优势训练actor，并以组中心化回报训练critic，随后切换至单轨迹广义优势估计（GAE）。实验结果显示，Li²SAO在训练早期能够赶上或超越GRPO，并进一步提升了后期的性能上限。目前该方法的相关代码已正式开源。
AI が報道をもとに生成 · 7 時間前 更新
最新の進展11月2日 13:00
研究团队提出异步RL优化方法Li²SAO并开源代码。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月2日
- arXiv 自然语言处理Li²SAO：通过组相对 Actor-Critic 自举提升轻量级单轨迹异步强化学习优化
研究人员提出轻量级异步强化学习优化方法 Li²SAO，解决缺乏预训练价值模型时单轨迹异步优化在早期落后于 GRPO 的问题。该方法在 critic 冷启动阶段利用组相对优势训练 actor 并以组中心化回报训练 critic，随后切换至单轨迹 GAE。实验显示 Li²SAO 在训练早期赶上或超越 GRPO 并进一步提升后期性能上限，相关代码已开源。
このストーリーのホット度の推移
現在のホット度 8·比較可能範囲のピーク 10（11月2日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。