arXiv 自然语言处理· Avinash Benki, Prasanjith Pasunuti, Sutanshu Saksena Raj, Parijat Chatterjee, Nayanjit Sarkar, Daksh Maan·· 8 小时前AI 评分35
Nemotron-3-Nano-30B-A3B 的原地印度语分词器扩展与持续预训练
In-Place Indic Tokenizer Expansion and Continual Pretraining of Nemotron-3-Nano-30B-A3B
AI 导读
研究人员在不改变主干架构的情况下将 Nemotron-3-Nano-30B-A3B 适配至 8 种印度语言，通过原地扩展词表使词表条目从 131,072 增至 163,072，每词消耗 token 数减少 38.6%。
来源：arXiv 自然语言处理 · arxiv.org