热点事件持续更新
研究提出多语言LLM预训练数据质量分类适配方法
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月9日,arXiv发布一项自然语言处理研究,提出了一种将英文质量分类器适配至100多种语言的方法,用于多语言大语言模型(LLM)预训练数据筛选。该方案通过在Transformer编码器嵌入向量上训练小型多层感知机(MLP),并以机器翻译文本的英文分类器得分作为标签。在1B、3B和8B规模的实验中,筛选后的数据保持了模型的下游基准表现,且未损伤区域与文化知识基准。评估还表明,该分类器具备跨语言泛化能力,对训练集未包含的语言同样有效。
AI 根据报道生成 · 3 小时前更新
最新进展10月9日 12:00
研究提出基于小型MLP的多语言数据质量分类适配方案,已在1B至8B规模模型中完成验证。报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- arXiv 自然语言处理适配英文质量分类器以用于多语言 LLM 预训练数据筛选
研究提出一种将英文质量分类器适配至 100 多种语言的方法,通过在 Transformer 编码器嵌入向量上训练小型 MLP,用于多语言 LLM 预训练数据筛选。该方案以机翻文本的英文分类器得分为标签,在 1B、3B 和 8B 规模实验中保持了下游基准表现,且未损伤区域与文化知识基准。评估表明该分类器具备跨语言泛化能力,对训练集未包含的语言同样有效。
本事件热度走势
当前热度 9·可比范围峰值 10(10月9日 13:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。