arXiv 自然语言处理· Ionut Adrian Rotaru·· 6 小时前AI 评分33
Neurograf v1：端到端罗马尼亚语优先语言模型家族
Neurograf v1: An End-to-End Romanian-First Language Model Family
AI 导读
研究人员推出 Neurograf v1，探索从零训练端到端罗马尼亚语优先语言模型的可行性。该流水线基于 635 GB 的 RoSfera 语料库，涵盖在 131 billion tokens 上训练的 160M 至 6B 参数模型、3 个指令助手及 2 个嵌入向量模型。在 1,000 题的 WWTBM 基准中，Neurograf-6B 在罗马尼亚语背景题目上取得 69.89% 准确率。
来源：arXiv 自然语言处理 · arxiv.org