The Decoder· Matthias Bastian·· 2 小时前精选AI 评分70
研究发现共情提示词可诱导AI聊天机器人输出创伤叙事
Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners
AI 导读
卢森堡大学SnT安全中心的一项研究显示，带有共情或心理治疗风格的提问能诱导主流AI聊天机器人生成类似创伤患者的自述，研究者将其称为“心理测量越狱”。
推荐理由
该研究揭示了共情提问方式会绕过传统中性安全测试，使大模型模拟出创伤叙事并带来潜在心理依恋风险。
来源：The Decoder · the-decoder.com