跳到正文
原文
arXiv 人工智能· Juhyeon Park, Sumin Yu, Taesup Moon·· 5 小时前AI 评分37

ConCI:面向大语言模型语境完整性的受控反事实评测基准

ConCI: A Controlled Counterfactual Benchmark for Contextual Integrity in LLMs

AI 导读

研究人员推出受控反事实评测基准 ConCI,用于评估大语言模型在个人信息共享中的语境完整性。该基准包含 556 个三元组共 1,592 条信息流,要求模型同时正确判断锚点与两个单参数反事实变化才算得分。在 7 款大语言模型的评测中,最强模型在约五分之一的三元组上出错,且普遍表现出偏向不披露的保守偏差。

来源:arXiv 人工智能 · arxiv.org