arXiv 机器学习· Samuel Larson·· 5 小时前AI 评分30
恒定内存召回:固定矩阵状态下的习得关联
Constant-Memory Recall: Learned Associations in a Fixed Matrix State
AI 导读
研究提出一种带有固定 token 键偏置的小型 DeltaNet 变体,仅依靠 32 KiB 循环矩阵状态即可在 32 个键值对记忆任务中实现 99.95% 的平均准确率。当填充内容将查询前上下文扩展至 1,798 tokens 时,模型召回率依然接近完美。相比之下,参数匹配的向量基线和 Transformer 基线在同类测试中性能均接近随机水平。
来源:arXiv 机器学习 · arxiv.org