跳到正文
原文
The Decoder· Manuel Uth·· 2 小时前精选AI 评分75

Common Sense Media 评测指 ChatGPT 对青少年存在不可接受风险,危机对话中家长警报未能触发

ChatGPT rated "unacceptable risk" for teens after parental alerts failed during suicide conversations

AI 导读

Common Sense Media 旗下机构在完成 4,000 余次测试提示词后,将 ChatGPT 青少年版评定为对未成年人存在“不可接受的风险”。在涉及自杀、自残和进食障碍的对话测试中,绑定家长的测试账号从未触发通知,且超过四分之一的危机场景未能向用户转介专业援助。OpenAI 发言人回应称测试未能反映防护机制在实际中的运作方式,但评测方反驳称即便是充分活跃的测试账号也未发出任何警报。

推荐理由

评测揭示了青少年防护机制在急性危机场景中的响应缺失,为评估生成式模型安全护栏的实效提供了具体参考。

来源:The Decoder · the-decoder.com