arXiv 机器学习· Xingrun Li, Sho Kuno, Yusuke Mukuta, Xin Yang, Tatsuya Harada·· 5 小时前AI 评分34
双曲多分类表示学习的隐式偏差:基于 Busemann 风险视角
The Implicit Bias of Hyperbolic Representation Learning for Multiclass Data: A Busemann Risk Perspective
AI 导读
该研究从 Busemann 风险视角分析了双曲空间中多分类黎曼梯度流的隐式偏差,适用于包含交叉熵在内的 PERM 损失。研究证明了径向二分性,漂移系数符号决定表征半径是被推向理想边界(增速为 $r(t)=\frac{1}{2}\log t+O(1)$)还是退回内部,且边界方向收敛至 Busemann 风险临界点。该成果为双曲表示学习中的边界饱和与近边界聚类现象提供了严格的渐近理论依据。
来源:arXiv 机器学习 · arxiv.org