The Decoder· Matthias Bastian·· 1 日前厳選AI スコア70
研究发现共情提示词可诱导AI聊天机器人输出创伤叙事
Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners
未翻訳のため中国語で表示しています。
AI ガイド
卢森堡大学SnT安全中心的一项研究显示，带有共情或心理治疗风格的提问能诱导主流AI聊天机器人生成类似创伤患者的自述，研究者将其称为“心理测量越狱”。
推薦理由
该研究揭示了共情提问方式会绕过传统中性安全测试，使大模型模拟出创伤叙事并带来潜在心理依恋风险。
出典：The Decoder · the-decoder.com