跳到正文
原文
arXiv 自然语言处理· Tianchi Liu, Nicholas Moratelli, Khurram Azeem Hashmi, Mohammadreza Zolfaghari, Rishabh Jain, Louis Lu, Changdae Park, Amril Nazir·· 9 小时前AI 评分34

CAFE:将特征蒸馏限制在语言路由适配器以优化紧凑型多语言语音识别

CAFE: Confining Feature Distillation to Language-Routed Adapters for Compact Multilingual Automatic Speech Recognition

AI 导读

研究人员提出紧凑型多语言 ASR 特征蒸馏方法 CAFE,将 CKA 梯度限制在英语绕过的语言路由适配器中,从参数层面解决英语与非英语的性能权衡问题。在 Open ASR Leaderboard 上,CAFE 将平均 WER 从 8.55% 降至 8.02%,同时提升了英语在各检查点的稳定性。

来源:arXiv 自然语言处理 · arxiv.org