arXiv 自然语言处理· Hyojung Han (ThakiCloud)·· 11 小时前AI 评分36
指标与构建耦合会导致合成方言恢复率评测虚高
Metric-Construction Coupling Inflates Measured Synthetic Dialect Recovery
AI 导读
研究表明,评测指标与数据生成规则的词表重合会导致合成方言恢复率的评测结果被大幅虚高。研究团队推出了涵盖 5 个地区共 1,000 个测试项的韩语方言基准 KoDialectBench;实验显示在 8,600 条训练样本下,若从合成规则中扣留 20% 标记类型,测得的方言度恢复率会从 91.8% 骤降至 8.1%,而流水线独立指标则未受影响。
来源:arXiv 自然语言处理 · arxiv.org