arXiv 机器学习· Anita Kriz, Antonin Berthon, Nicol\'as Astorga, Mihaela van der Schaar·· 8 小时前AI 评分37
推理大语言模型中的序贯实验设计摊销
Amortizing Sequential Experimental Design in Reasoning LLMs
AI 导读
研究人员提出利用信息增益奖励训练大语言模型(LLM)的推理过程,将序贯贝叶斯实验设计(BED)摊销到模型中以自适应收集信息。在 Twenty Questions 任务中,该策略以更低计算成本超越了推理与训练阶段的 BED 基线,并泛化至未见类别。该成果还成功正向迁移至真实临床对话基准 Medi-Q。
来源:arXiv 机器学习 · arxiv.org