arXiv 机器学习· Achleshwar Luthra, Lucas Bryant, Tracy Zhu, Tomer Galanti·· 6 小时前AI 评分33
自监督学习中哪些任务能被保留？
Which Tasks Survive Self-Supervised Learning?
AI 导读
研究提出通过“语义可恢复性”框架，分析同实例自监督学习（SSL）中哪些下游任务能够在表征中留存。理论证明，可恢复性决定了定向类间距离归一化方差（CDNV）并控制少样本最近质心分类，任务后验落入选定谱子空间的程度决定了其保留效果。研究在合成与真实数据集上跨多种 SSL 方法验证了该几何结构与少样本迁移预测。
来源：arXiv 机器学习 · arxiv.org