跳到正文
原文
AITNT · AI头条(网页)·· 2 小时前AI 评分48

让 JEPA 真正理解世界背后的生成机制,DSReg 让世界模型的每一维都有了真实含义

让JEPA真正理解世界背后的生成机制,DSReg让世界模型的每一维都有了真实含义

AI 导读

UIUC 等机构研究者提出正则化方法 DSReg,无需解码器与标签,可直接在预训练 JEPA 上通过正交旋转让隐表征每一维对应真实世界变量。该方法基于 Structural Diversity 假设保证理论可辨识性,单张 48GB 显卡即可支持处理 8192 维。在 3DShapes 基准及视觉编辑等 6 个下游任务中,其表现均优于 LeJEPA 并逼近监督上限。

来源:AITNT · AI头条(网页) · aitntnews.com