热点事件持续更新
研究提出掩码文本重构语料采样分歧预测方法
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
2026年10月12日,研究人员针对掩码文本重构任务,推导出一种基于平滑预测器的一阶公式,用于预测在两个独立同分布语料库上训练的模型输出分歧。在 TinyStories、WikiText-103 和 CNN/DailyMail 上的实验结果显示,将语料规模从 512 块 64 token 增至 2,048 块时,模型输出分歧仅减少了 5%–40%,该降幅远低于 1/n 标度规律所预期的 75%。
AI 根据报道生成 · 7 小时前更新
最新进展10月12日 12:00
研究人员提出用于预测掩码文本重构语料采样分歧的一阶公式,实验显示分歧降幅远低于标度规律预期。报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv 自然语言处理预测掩码文本重构中的语料采样分歧
研究人员针对掩码文本重构任务,推导出一种基于平滑预测器的一阶公式,用于预测在两个独立同分布语料库上训练的模型输出分歧。在 TinyStories、WikiText-103 和 CNN/DailyMail 上的实验显示,将语料从 512 块 64 token 增至 2,048 块仅使分歧减少 5%–40%,远低于 1/n 标度规律预期的 75%。
本事件热度走势
当前热度 8·可比范围峰值 10(10月12日 13:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。