arXiv 自然语言处理· Devansh Sharma, Faizul Rakib Sayem, Shahana Ibrahim·· 6 小时前AI 评分34
基于低秩多线性分解的 LLM 模型幻觉检测
LLM Hallucination Detection via Low-rank Multilinear Decomposition
AI 导读
研究人员提出多线性低秩分解框架 LOTUS，通过从 LLM 隐藏状态中提取紧凑表征来检测模型幻觉，同时减少对标注数据的依赖。该方法利用统计描述符捕捉变长 token 的峰值激活、激活分布与跨层变化，并通过低秩多线性分解训练轻量级分类器。在多个 LLM 及问答基准上的实验表明，LOTUS 的检测性能超越了现有 SOTA 基线。
来源：arXiv 自然语言处理 · arxiv.org