Skip to content
Hot storiesContinuously updated

研究团队提出免训练多模态推测解码方法RECAP并开源

1 reports1 reporting sourcesUpdated 7 hours ago

Start here

AI overview

2026年11月5日,arXiv发布的研究提出了一种名为RECAP的免训练多模态推测解码方法。该方法无需额外的辅助草稿模型,通过将目标预测存储于1至3个token键下,并结合局部上下文与持久化内存来消除预测混淆。实验结果显示,在7个单轮评测基准上,RECAP使Qwen2.5-VL-7B和LLaVA-1.6-7B分别实现了1.66倍与1.56倍的平均解码加速,表现优于基线方法Token Recycling的1.51倍和1.37倍。目前该项目代码已经开源。

AI-generated from reports · Updated 7 hours ago

Report timeline

Follow the reports to see different sides of the story.

Nov 5
  1. arXiv 人工智能
    RECAP:基于局部与持久化内存的多模态投机解码上下文感知预测重用

    研究提出免训练多模态投机解码方法 RECAP,将目标预测存储于 1 至 3 个 token 键下,结合局部上下文与持久化内存以消除预测混淆。无需辅助草稿模型,RECAP 在 7 个单轮评测基准上使 Qwen2.5-VL-7B 和 LLaVA-1.6-7B 分别获得 1.66x 与 1.56x 的平均解码加速,超越基线 Token Recycling 的 1.51x 和 1.37x。代码已开源。

Story heat trend

Current heat 8·Comparable peak 10(Nov 5 14:00)·Comparable change, last 24 hours–

02.557.510Nov5Nov5Nov5Nov5

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.