arXiv 自然语言处理· Siqi Shen, Lajanugen Logeswaran, Moontae Lee, Honglak Lee, Rada Mihalcea·· 6 小时前AI 评分44
当人设变得有害：以全球公民价值观对齐引导 LLM
When Personas Become Harmful: Guiding LLMs with Global Citizenship Values Alignment
AI 导读
研究人员提出一种基于 UNESCO 全球公民原则的可控对齐模型，以解决大语言模型因遵循特定人设而产生有害输出的问题。研究团队构建了包含 11k 个争议话题的人设数据集，利用智能体管线使对齐良好的商用 LLM 输出有害回复的成功率超过 47%。新模型支持在推理阶段平衡人设遵循与安全，在多数样本上显著优于基线表现。
来源：arXiv 自然语言处理 · arxiv.org