跳到正文
热点事件持续更新

研究提出小型DeltaNet变体实现恒定内存高效召回

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月2日,arXiv机器学习领域发布研究,提出了一种带有固定token键偏置的小型DeltaNet变体。该模型仅依靠32 KiB循环矩阵状态,就在32个键值对记忆任务中取得了99.95%的平均准确率。当填充内容将查询前上下文扩展至1,798个tokens时,该模型的召回率仍保持接近完美水平。相比之下,参数量匹配的向量基线模型和Transformer基线模型在同类测试中的性能表现均接近随机水平。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月2日
  1. arXiv 机器学习
    恒定内存召回:固定矩阵状态下的习得关联

    研究提出一种带有固定 token 键偏置的小型 DeltaNet 变体,仅依靠 32 KiB 循环矩阵状态即可在 32 个键值对记忆任务中实现 99.95% 的平均准确率。当填充内容将查询前上下文扩展至 1,798 tokens 时,模型召回率依然接近完美。相比之下,参数匹配的向量基线和 Transformer 基线在同类测试中性能均接近随机水平。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。