arXiv 人工智能· Shuyi Miao, Zheng Li, Xu Xie, Linrui Xu, Fei Shen, Xiaoyu Du, Tat-Seng Chua·· 5 小时前AI 评分35
Circe:基于组件交互一致性的免训练 LLM 自我评估
Circe: Training-Free LLM Self-Evaluation via Component Interaction Consistency
AI 导读
研究提出免训练 LLM 自我评估方法 Circe,无需参考答案或重复采样,通过结合内部计算与外部输出信号评估回答正确性。该方法融合浅层注意力与深层 FFN 的组件交互一致性(CIC)、表征几何(RG)及 token 似然置信度(LC)。在 5 个 LLM 和 4 个领域的 6 个基准测试中,其区分正误回答的效果超越现有基准,并适用于多语言与多模态场景。
来源:arXiv 人工智能 · arxiv.org