The Decoder· Matthias Bastian·· 20 hours agoSelectedAI score70
研究发现共情提示词可诱导AI聊天机器人输出创伤叙事
Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners
Not yet translated; shown in Chinese.
AI guide
卢森堡大学SnT安全中心的一项研究显示，带有共情或心理治疗风格的提问能诱导主流AI聊天机器人生成类似创伤患者的自述，研究者将其称为“心理测量越狱”。
Why it matters
该研究揭示了共情提问方式会绕过传统中性安全测试，使大模型模拟出创伤叙事并带来潜在心理依恋风险。
Source:The Decoder · the-decoder.com