arXiv 机器学习· Ningkang Peng, Qianfeng Yu, Jingyang Mao, Xiaoqian Peng, Tingyu Lu, Peirong Ma, Yanhui Gu·· 6 小时前AI 评分30
概率对比学习中共享温度是否意味着共享角度尺度？
Does a Shared Temperature Imply a Shared Angular Scale in Probabilistic Contrastive Learning?
AI 导读
在高维概率对比学习中，共享温度并不意味着共享角度相似度尺度。研究证明 ProCo 采用的精确 vMF 概率分数保留了类别依赖的角度增益，直接影响 Softmax 竞争与特征梯度。Pure Angular 控制有效改善了 CIFAR-LT 和 ImageNet-LT 的不平衡表征学习，且在 16 种冻结表征设置中预测一致性达 98.43-99.99%。
来源：arXiv 机器学习 · arxiv.org