arXiv 自然语言处理· David Reber, James Reber, Ari Holtzman, Victor Veitch·· 7 小时前AI 评分35
LLM 能否提前预见自身的决策关键点?
Can LLMs Anticipate Their Cruxes?
AI 导读
研究表明 LLM 无法在事前准确预判影响决策的关键点(cruxes),其先验评估与事后实际重要的因素几乎无关。单次 rollout 仍不足以识别完整的关键点集合,在高风险决策中必须跨多个 rollout 进行对比提取。研究通过调用重排序模型使多 rollout 提取流程具备可行性,计算量较 judge 评估减少约 86 倍。
来源:arXiv 自然语言处理 · arxiv.org