跳到正文
热点事件持续更新

研究提出JEPA训练动力学理论与ResidualPred架构

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

2026年10月,研究团队针对联合嵌入预测架构(JEPA)的表征崩溃问题,提出了早期训练稳定性理论,揭示了驱动力与衰减效应之间的竞争机制。该理论统一解释了预测器缩放、掩码比例和指数移动平均(EMA)在训练中的作用,并在超过800种Tabular-JEPA配置下证实了相界。基于该理论设计的ResidualPred架构,有效提升了表格数据以及CIFAR、ImageNet等I-JEPA预训练的有效秩与下游任务精度。目前,该研究的相关代码已正式开源。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv 机器学习
    驱动与衰减:联合嵌入预测架构(JEPA)的训练动力学研究

    研究针对联合嵌入预测架构(JEPA)的表征崩溃问题提出早期训练稳定性理论,揭示了驱动力与衰减效应的竞争机制。该理论统一解释了预测器缩放、掩码比例和 EMA 的作用,并在超 800 种 Tabular-JEPA 配置下证实了相界。据此设计的 ResidualPred 提升了表格及 CIFAR、ImageNet 等 I-JEPA 预训练的有效秩与下游精度,代码已开源。

本事件热度走势

当前热度 9·可比范围峰值 10(10月5日 12:00)·近 24 小时可比范围变化 –

02.557.51010月5日12:0010月5日13:0010月5日15:0010月5日16:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。