arXiv 机器学习· Zhiyang Wang, Zhishang Luo, Yusu Wang·· 6 小时前AI 评分34
超越固定深度的循环图神经网络:图规模泛化与参数高效适配
Looped GNNs Beyond Fixed Depth: Graph Size Generalization and Parameter-Efficient Adaptation
AI 导读
针对图规模扩大所需计算超出训练深度的问题,研究提出了参数共享的循环图神经网络(looped GNN),通过预训练学习局部更新规则,并在大图上重复应用该处理器以扩展信息范围。研究还推出了 Loop-Freeze-Steer(LFS)方法,通过冻结预训练处理器并仅训练微型控制器进行引导,在合成任务和芯片布局实验中以远少于全量微调的参数实现了更优的规模泛化平衡。
来源:arXiv 机器学习 · arxiv.org