arXiv 自然语言处理· Wesley Kambale, Roland Sankara·· 4 小时前AI 评分31
Pearl-Chat：基于 JAX 与 Flax NNX 从第一性原理构建的卢干达语原生语言模型
Pearl-Chat: Engineering a native Luganda language model from first principles in JAX and Flax NNX
AI 导读
研究人员推出了基于 JAX 和 Flax NNX 从第一性原理构建的卢干达语原生模型 Pearl-Chat，参数量约为 8.5M（8,473,122 参数）。该模型自研的 BPE 分词器压缩比达 4.88 字符/token，分词繁衍率降至 1.60 tokens/word，压缩效率较 LLaMA-3 和 Gemma 提升一倍。
来源：arXiv 自然语言处理 · arxiv.org