跳到正文
原文
arXiv 自然语言处理· David Reber, James Reber, Ari Holtzman, Victor Veitch·· 7 小时前AI 评分35

LLM 能否提前预见自身的决策关键点?

Can LLMs Anticipate Their Cruxes?

AI 导读

研究表明 LLM 无法在事前准确预判影响决策的关键点(cruxes),其先验评估与事后实际重要的因素几乎无关。单次 rollout 仍不足以识别完整的关键点集合,在高风险决策中必须跨多个 rollout 进行对比提取。研究通过调用重排序模型使多 rollout 提取流程具备可行性,计算量较 judge 评估减少约 86 倍。

来源:arXiv 自然语言处理 · arxiv.org