arXiv 自然语言处理· Muhammad Rafiullah Memon, Viet Vo, Wanlun Ma, Yang Xiang·· 5 小时前AI 评分32
非儿童本意：审计面向儿童 AI 的手语转文本安全接口
Not What a Child Expressed: Auditing the Sign-to-Text Safety Interface in Child-Facing AI
AI 导读
针对面向儿童的 AI 安全防护，研究指出主流手语翻译（SLT）模型从未针对 18 岁以下人群进行训练或评估，且与文本安全系统缺乏联合评测。手语翻译若在保持流畅的同时改变否定、角色关系或求助意图，可能导致安全过滤机制误判。该研究提出了包含失效分类法、4 种对比条件和 4 项指标的部署前审计框架，并计划以 Auslan 为首个案例。
来源：arXiv 自然语言处理 · arxiv.org