跳到正文
原文
arXiv 自然语言处理· Anastasiia Ivanova·· 3 小时前AI 评分34

拒绝方向在低资源语言中是否具有通用性?

Is Refusal Direction Universal across Low-Resourced Languages?

AI 导读

一项针对 Qwen2.5-14B-Instruct 的研究发现,大语言模型的拒绝方向在低资源语言中并非二元通用,而是呈渐进特性。该研究将 PolyRefuse 扩展至白俄罗斯语、巴什基尔语和塔吉克语,证实严重未对齐语言的方向无法可靠调控拒绝行为,几何对齐与行为迁移存在部分解耦。这意味着极度低资源且未对齐语言的用户可能面临更弱的安全保障。

来源:arXiv 自然语言处理 · arxiv.org