arXiv 自然语言处理· Zhanyu Chen, Jaap Jumelet·· 4 小时前AI 评分35
评估语言差异对大语言模型多语言语法能力的影响
Assessing the Impact of Language Disparity on Multilingual Linguistic Ability in Large Language Models
AI 导读
一项基于 101 种语言句法基准 MultiBLiMP 的研究发现，后训练会削弱大语言模型的语法能力，且低资源语言受损最严重。研究测试了 6 个模型家族的基座与后训练模型，表明模型仍保留无法直接表达的语法知识，而母语提示词可有效恢复低资源语言中隐藏的能力。研究指出多语言评测需采用多范式协议，以避免低估低资源语言水平。
来源：arXiv 自然语言处理 · arxiv.org