arXiv 自然语言处理· Junru Wu, Jingting Zheng, Yuqi Ren, Deyi Xiong·· 8 小时前AI 评分44
VALCON：通过双角色变化评估与提升大语言模型的价值一致性
VALCON: Benchmarking and Enhancing Value Consistency in Large Language Models via Dual-Role Variation
AI 导读
研究人员提出角色驱动的数据构建框架 VALCON，通过双角色变化将价值一致性拆解为 VAB-Consistency、VAB-Boundary 和 VAB-Challenge 三套评测基准。在 28 个 LLM 上的实验显示，模型普遍存在跨生成与评估角色的价值不一致现象。团队通过机制探针揭示了角色相关的表征解耦问题，并提出表征定向干预手段有效缓解了该一致性缺陷。
来源：arXiv 自然语言处理 · arxiv.org