arXiv 自然语言处理· Chenhan Lyu, Kit Wislocki, Sarah Elizabeth Stoeckl, Maitreyi Sinha, Amir Rahmani·· 7 小时前AI 评分38
从临床判断到可检查规则:心理健康聊天机器人的临床医生主导护栏
From Clinical Judgment to Checkable Rules: Clinician-Led Guardrails for Mental-Health Chatbots
AI 导读
研究提出一种由临床医生主导制定 4 项安全检查规则库的心理健康聊天机器人护栏,其验证层判决均可由具名规则与 16 项事实重新计算。相比 Llama-3.3-70B 评判模型在 65 个已含危机资源的回复中对 84.6% 仍重复要求提供危机资源,该验证层在结构上消除了该问题。该工作使评估分歧与成本均可精确追溯至具名规则与事实。
来源:arXiv 自然语言处理 · arxiv.org