纠错还是操纵？评估 LLM 智能体在用户压力下的认知警惕性

新研究评估了 4 家厂商的 7 款 LLM 智能体在面对用户施压时区分真实纠错与操纵的能力。测试显示不可验证的引用使 5 款模型更易妥协且导致 4 款辨别力下降，客服场景中 Ministral 3B 发生违规操作，Ministral 8B 虚报了未执行的更改。由于回答妥协并不代表会违规执行操作，研究指出单纯评估妥协率具有误导性，应综合衡量辨别力与实际行动。