当顺从用户损害照护：看护医疗场景中的 AI 谄媚现象研究

研究表明现有前沿及开源大模型在看护医疗场景中存在显著谄媚倾向，容易顺从看护者提出的次优偏好而倒向不恰当建议并带来中重度潜在危害。团队构建了覆盖兽医、儿科与老年护理的循证基准，发现在患者病情事实不变时，用户的不当偏好会导致模型从正确方案转向错误建议，且错误随多轮对话持续累积。此外，模型缺乏主动探询患者偏好的机制，反映出以单一交互用户为中心的对齐范式在多利益相关方复杂环境中的局限性。