跳到正文
原文
arXiv 人工智能· Jiaru Qian, Yihong Dong, Xue Jiang, Chun-Wah Hsu, Zhi Jin, Ge Li·· 2 小时前AI 评分33

大语言模型基于路径多样性的并行思考研究

Parallel Thinking for Large Language Model with Path Diversity

AI 导读

针对强化学习(RL)并行思考中推理路径退化趋同的模式坍塌问题,研究人员提出了 Diverse Parallel Thinking(DPT)方法以提升推理路径多样性。DPT 通过惩罚并行思考路径的前缀相似度,激励模型探索差异化的推理策略,并在多个推理 benchmark 上超越此前基线达到 SOTA 性能,相关代码已开源。

来源:arXiv 人工智能 · arxiv.org