解构多语言大语言模型中的鲁棒性与阿谀奉承现象

研究人员提出了 SC-matrix，通过交叉评估模型在无压力下的能力与受压下的阿谀奉承倾向，以区分多语言大语言模型是因顺从用户还是能力不足而认同错误前提。结果表明，相同的总体阿谀奉承率可能掩盖了不同的失效构成，且高语言能力并不总能防范该现象。此外，面向推理的缓解策略效果优于基于指令的策略。