跳到正文
热点事件持续更新

研究提出多语言LLM预训练数据质量分类适配方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月9日,arXiv发布一项自然语言处理研究,提出了一种将英文质量分类器适配至100多种语言的方法,用于多语言大语言模型(LLM)预训练数据筛选。该方案通过在Transformer编码器嵌入向量上训练小型多层感知机(MLP),并以机器翻译文本的英文分类器得分作为标签。在1B、3B和8B规模的实验中,筛选后的数据保持了模型的下游基准表现,且未损伤区域与文化知识基准。评估还表明,该分类器具备跨语言泛化能力,对训练集未包含的语言同样有效。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv 自然语言处理
    适配英文质量分类器以用于多语言 LLM 预训练数据筛选

    研究提出一种将英文质量分类器适配至 100 多种语言的方法,通过在 Transformer 编码器嵌入向量上训练小型 MLP,用于多语言 LLM 预训练数据筛选。该方案以机翻文本的英文分类器得分为标签,在 1B、3B 和 8B 规模实验中保持了下游基准表现,且未损伤区域与文化知识基准。评估表明该分类器具备跨语言泛化能力,对训练集未包含的语言同样有效。

本事件热度走势

当前热度 9·可比范围峰值 10(10月9日 13:00)·近 24 小时可比范围变化 –

02.557.51010月9日13:0010月9日14:0010月9日14:0010月9日15:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。