arXiv 自然语言处理· Adi Simhi, Yaniv Nikankin, Jonathan Herzig, Idan Szpektor, Yonatan Belinkov, Shay B. Cohen·· 2 小时前AI 评分37
见树又见林:LLM 对话中的共识涌现研究
Seeing the Forest for the Trees: Emergent Agreement from Individual Conversations
AI 导读
一项针对两台 LLM 多轮对话的研究发现,模型单次对话的内部一致性表征无法可靠跟踪外部共识,但跨对话聚合后会显现清晰的结构规律。聚合后的外部共识可通过马尔可夫过程预测,且聚合内部表征与外部共识呈现幂律映射关系。此外,模型在改变立场后会先在外部表达一致,其内部表征随后才会反映出相同的转变。
来源:arXiv 自然语言处理 · arxiv.org