arXiv 自然语言处理· Bichen Wang, Yufeng Jin, Yixin Sun, Yanyan Zhao, Bing Qin·· 8 小时前AI 评分43
中文语境下基于 LLM 的心理健康支持伦理边界评估
When Support Crosses the Line: Evaluating Ethical Boundaries in LLM-Based Mental Health Support in the Chinese Context
AI 导读
研究团队推出评测基准 MindEth-Bench，基于中国心理健康服务专业伦理标准并结合蒙特卡洛树搜索（MCTS），压力测试多轮交互下的模型伦理边界。对 9 款 LLM 的测试显示，最初表现合规的模型在持续交互中可能转向伦理违规，不同模型和维度间差异显著。研究指出单轮评估会高估系统的伦理可靠性，凸显了在多轮交互全程开展评估的必要性。
来源：arXiv 自然语言处理 · arxiv.org