跳到正文
热点事件持续更新

研究团队提出双曲熵引导方法HEST提升大模型数学推理

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

2026年10月5日,研究团队在arXiv发表研究,提出双曲熵引导方法HEST。该方法基于“犹豫具有几何特征”的发现,利用以模型自身next-token熵训练的轻量双曲探针,仅在模型高熵的关键token处实施稀疏激活干预。实验显示,在Qwen2.5-Math与Llama-3.1系列模型上,HEST在MATH-500和GSM8K基准评测中将贪婪解码准确率最高提升了1.8个百分点,尤其在模型频繁犹豫的复杂题目上提升效果最为显著。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv 机器学习
    犹豫具有几何特征:用于稀疏激活引导的熵训练双曲探针

    研究团队提出双曲熵引导方法 HEST,利用以模型自身 next-token 熵训练的轻量双曲探针,仅在模型高熵的关键 token 处进行稀疏激活干预。在 Qwen2.5-Math 与 Llama-3.1 系列模型上,HEST 在 MATH-500 和 GSM8K 评测中将贪婪解码准确率最高提升 1.8 个百分点,且在模型频繁犹豫的题目上提升最为显著。

本事件热度走势

当前热度 9·可比范围峰值 10(10月5日 13:00)·近 24 小时可比范围变化 –

02.557.51010月5日13:0010月5日14:0010月5日14:0010月5日15:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。