arXiv 自然语言处理· Yuliang Liu, Xinyu Wang, Xiang Bai·· 4 小时前AI 评分44
GlyphMind 研究发现:熟悉的文字而非亲缘语言让未见语言进入共享语义空间
Familiar letters, not related languages, let unseen languages into a shared space of meaning
AI 导读
研究表明熟悉的文字而非亲缘语言能让未见语言进入共享语义空间。无分词器视觉 Transformer 模型 GlyphMind 在预训练对齐 27 种书写系统后,在完全未见过的老挝语未翻译文本上检索英文翻译的表现达到最强简单基线的 7 倍。实验证实,将缺乏翻译的语言音译转写为模型熟悉的文字,有助于多语言模型接入无翻译语言。
来源:arXiv 自然语言处理 · arxiv.org