arXiv 自然语言处理· Nil-Jana Akpinar, Eugenia Kim, Natalie Isak, Amanda Minnich, Victoria Westerhoff, Matthew Dressman·· 5 小时前AI 评分42
测量风险而非伤害：LLM 对话中心理伤害风险因素检测
Measuring Risk, Not Harm: Detecting Psychological Harm Risk Factors in LLM Conversations
AI 导读
新研究提出通过检测单条回复中的 8 类 AI 行为风险因素来评估 LLM 对话引发的心理伤害，并构建了包含 47,062 条回复的多标签数据集。实验表明，分类器与评判器级联方案在人工标注数据上取得 0.86 宏精确率与 0.79 宏 F1 值，同时在 WildChat 数据集上将 LLM 评判调用减少了 97.1%。
来源：arXiv 自然语言处理 · arxiv.org