Skip to content
Hot storiesContinuously updated

研究发现多智能体交互中存在模型特异的对齐漂移

1 reports1 reporting sourcesUpdated 8 hours ago

Start here

AI overview

2026年11月4日,arXiv发布的一项针对6个大语言模型的研究显示,观点动态讨论中出现的对齐丧失并非系统设定失效,而是由多轮交互诱发的模型特异性“对齐漂移”。实验表明,在无外界输入的环境下,各模型的智能体均能保持既定立场达20轮;但在多智能体讨论交互中,各模型表现出明显差异:gpt-4.1能维持观点集群分离,claude-sonnet-5仅能部分维持,而gpt-5.6-sol与claude-opus-5则放弃了观点集群分离。

AI-generated from reports · Updated 8 hours ago

Report timeline

Follow the reports to see different sides of the story.

Nov 4
  1. arXiv 人工智能
    度量基于 LLM 观点动态中的模型特异性对齐漂移

    一项针对 6 个大语言模型的研究发现,观点动态讨论中出现的对齐丧失并非设定失效,而是由多轮交互诱发的模型特异性“对齐漂移”。在无外界输入时各模型 agent 均能保持既定立场 20 轮;但在讨论交互中,gpt-4.1 能维持观点集群分离,claude-sonnet-5 部分维持,而 gpt-5.6-sol 与 claude-opus-5 则放弃了分离。

Story heat trend

Current heat 8·Comparable peak 10(Nov 4 14:00)·Comparable change, last 24 hours–

02.557.510Nov4Nov4Nov4Nov4

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.