新研究提出LLM心理伤害风险因素检测框架
Start here
2026年11月5日，arXiv发表的一项自然语言处理研究提出了一种评估大语言模型（LLM）对话引发心理伤害的新方法。该研究主张“测量风险而非伤害”，通过检测单条回复中的8类AI行为风险因素来评估心理伤害风险，并构建了包含47,062条回复的多标签数据集。实验结果显示，研究所采用的分类器与评判器级联方案在人工标注数据上达到了0.86的宏精确率与0.79的宏F1值；同时在WildChat数据集上的测试表明，该方案将LLM评判调用量大幅减少了97.1%。
AI-generated from reports · Updated 3 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理测量风险而非伤害：LLM 对话中心理伤害风险因素检测
新研究提出通过检测单条回复中的 8 类 AI 行为风险因素来评估 LLM 对话引发的心理伤害，并构建了包含 47,062 条回复的多标签数据集。实验表明，分类器与评判器级联方案在人工标注数据上取得 0.86 宏精确率与 0.79 宏 F1 值，同时在 WildChat 数据集上将 LLM 评判调用减少了 97.1%。
Story heat trend
Current heat 9·Comparable peak 10（Nov 5 14:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.