跳到正文
原文
arXiv 人工智能· Tianyi Huang, Eric Liu, Jay Chong, Emily Yin, Wanqi Zhao·· 5 小时前AI 评分38

人机反馈循环中的溯源感知信念更新

Provenance-Aware Belief Updating in Human-AI Feedback Loops

AI 导读

研究提出潜在商证据训练(LQET),使语言模型能够基于报告谱系与证据溯源进行信念更新,避免将重复信息误判为独立证据。在受控二元基准测试中,LQET 在 Qwen3-4B 和 Phi-4-mini 上相比仅任务训练将新证据更新 RMSE 降低 41-44%,并将 8 步中继后的对数几率漂移减少 89-91%。该效果在闭环模拟中同样有效,确保模型更新遵循新证据而非信息重复次数。

来源:arXiv 人工智能 · arxiv.org