arXiv 自然语言处理· Tiejin Chen, Xiaoou Liu, Michael Clifford, Ahmadreza Moradipari, Yitao Chen, Kyungtae Han, Nejib Ammar, Hua Wei·· 8 小时前AI 评分36
先检测后消除歧义：基于扰动的 LLM 输入歧义检测
Detect Before You Disambiguate: Perturbation-Based Input Ambiguity Detection in LLMs
AI 导读
针对大语言模型常将歧义输入误作单一意图回答的问题，研究人员提出基于标签保持扰动的 LLM 输入歧义检测框架，主张在消除歧义前先进行检测。该框架包含黑盒规则扰动库与基于模型内部信号的白盒重要性引导两种检测器。在开放域、对话与视觉 QA 的 4 个数据集上，该方法表现均优于输出端不确定性基线及基于 LLM 改写的扰动基线，代码已开源。
来源：arXiv 自然语言处理 · arxiv.org