arXiv 自然语言处理· Hazel H. Kim, Jakub Binkowski, Ekaterina Fadeeva, Juan David Guerra, Yijie Hao, Zheng Yi Ho, Baixiang Huang, Buyun Liang, Siyuan Liang, Anh Tuan Luu, Potsawee Manakul, Niels M\"undler-Sasahara, Aidar Myrzakhan, Shahrad Mohammadzadeh, Artem Shelmanov, Kai Shu, Ponhvoan Srey, Dacheng Tao, Ren\'e Vidal, Haofei Yu, Lei Yu, Hongxiang Zhang, Yarin Gal, Hinrich Sch\"utze, Philip H. S. Torr·· 7 小时前AI 评分52
大语言模型幻觉究竟测了什么：区分语义错觉、虚构与表达不确定性
What Hallucinations Have We Measured? Semantic Illusion, Confabulation, and Expressed Uncertainty
AI 导读
研究团队提出一套针对大语言模型（LLM）幻觉的严格分类框架，将错误划分为表达不确定性（UNK）、语义错觉（SI）与虚构（CF）。该框架通过语义等价提示词探测相关知识是否可提取，若可通过调整提示词恢复则属于语义错觉，完全无法调出则属于需要外部知识或重新训练的虚构。评估 14 种代表性方法发现，现有检测工具频繁把不确定性误判为幻觉，且多数缓解手段仅对语义错觉有效，对真正的虚构收效甚微。
来源：arXiv 自然语言处理 · arxiv.org