热点事件持续更新
研究团队提出印度语系自适应分词方案AdaptTok-Indic
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月27日，研究人员在arXiv发布面向印度语言的自适应分词方法AdaptTok-Indic。该方案主要通过脚本感知路由与字节级边界预测来降低分词膨胀率。实验结果显示，AdaptTok-Indic在孟加拉语和印地语上的平均token fertility分别降低至1.432和1.388，明显低于SentencePiece BPE测得的2.156与2.085。此外，该小规模原型在下游评测任务中取得了57.69的平均得分，优于基线配置的50.82，验证了该方案在印度语系处理上的有效性。
AI 根据报道生成 · 4 小时前更新
最新进展10月27日 12:00
研究人员推出自适应分词方案AdaptTok-Indic，大幅降低分词膨胀率并改善下游任务得分。报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- arXiv 自然语言处理AdaptTok-Indic：面向印度语言的脚本感知自适应分词
研究人员推出面向印度语言的自适应分词方法 AdaptTok-Indic，通过脚本感知路由与字节级边界预测降低分词膨胀率。其在孟加拉语和印地语上的平均 token fertility 分别降至 1.432 和 1.388，远低于 SentencePiece BPE 的 2.156 与 2.085。该小规模原型在下游任务中平均得分为 57.69，优于基线配置的 50.82。
本事件热度走势
当前热度 9·可比范围峰值 10（10月27日 13:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。