连续扩散语言模型推理突破：ELF-REG将连续扩散架构扩展至数学与代码任务
该研究针对全连续扩散语言模型（dLM）在复杂推理任务中落后于自回归（AR）模型的难题，提出了ELF-REG架构。研究团队将嵌入语言流（ELF）拓展至GSM8K、MATH-500、HumanEval等数学与代码基准，并引入结合表征对齐与纠缠的机制（REPA+REG），通过冻结的AR教师模型监督中间去噪步骤，有效提升了连续扩散模型并行解码与复杂逻辑推理的扩展能力。
DC AI 热点
全部 AI 动态
9月25日2026-09-25
基于自旋玻璃理论：可验证奖励强化学习（RLVR）在迭代乘法任务中的优化景观可呈良态
该论文研究了带有可验证奖励的强化学习（RLVR）在迭代群与拟群乘法等算法任务中的优化景观，探讨其学习新推理能力的极限。作者将近视表格策略下的熵正则化RLVR映射到确定性策略的自旋玻璃能量模型，不仅给出了RLVR能力的理论上限，还严格刻画了表格环境下的景观特征。理论与实验表明该优化景观可以是良态的；因原文摘要截断，具体实验细节未完全展开。
9月24日2026-09-24
大语言模型数学推理机制按方法而非学科主题组织
一项针对大语言模型内部计算机制的研究显示，开源数学模型在处理问题时更倾向于按可复用的“推理方法”而非传统的“学科主题”组织内部计算。研究团队提出了一种“生成-重放协议”，先由模型生成解题步骤，再重放完整的提示词与生成轨迹，借此提取推理 token 的激活重要性特征并进行无监督聚类。该研究为理解 LLM 如何在内部表征和执行数学推理提供了新的可解释性视角。