跳到正文
原文
Hacker News · AI· Betelbuddy·· 3 小时前AI 评分37

你确定你的 LLM 真的确信吗?

Are You Sure Your LLM Is Sure?

AI 导读

研究人员提出大语言模型置信度可靠性框架 RADAR,将置信度修复、部署采纳决策以及残差误差审计分离开来。该框架包含利用未标记提示词学习单调映射的 PAIC 修复方法,以及用于审计特征对齐残差误差的提示词聚类核检验。在 47,400 次重放分配测试中,其配对流程采纳更低保留测试风险候选方案的比例达 42.95%,显著高于单侧经验 Bernstein 方法的 15.09%。

来源:Hacker News · AI · arxiv.org