跳到正文
原文
arXiv 机器学习· Yuto Inui, Takuya Konishi, Yoshinobu Kawahara·· 6 小时前AI 评分36

不变测度推理器(ImR):用于隐式推理的稳定表征

Invariant-Measure Reasoners: Stable Representations for Latent Reasoning

AI 导读

针对隐式推理模型在循环深度增加时预测不稳定的问题,研究提出了不变测度推理器(ImR)框架,利用不变测度作为稳定表征。ImR 描述隐式状态在紧子集上的长期分布,并通过该测度下预测头输出的期望进行预测。在迷宫和数独任务中,无论是仅微调现有模型的预测头还是从头训练,ImR 均降低了预测不稳定性并提升了准确率。

来源:arXiv 机器学习 · arxiv.org