研究团队提出SpeechLLM长上下文KV检索方法C3
Start here
2026年11月3日，研究者在arXiv发布论文，针对长上下文SpeechLLM推理中音频KV cache占用显存大及解码开销高的问题，提出语音引导的KV检索方法C3。C3通过分层键空间索引组织音频KV，支持共享查询头竞争检索预算，并能自适应调节检索分辨率。测试结果显示，在4个SpeechLLM的语音识别、翻译和摘要任务中，C3在同等KV访问预算下性能表现最优，有效改善了模型的解码效率与显存扩展性。
AI-generated from reports · Updated 13 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 机器学习C3：面向长上下文 SpeechLLM 推理的语音引导 KV 检索
研究者提出面向长上下文 SpeechLLM 推理的语音引导检索方法 C3，以缓解音频 KV cache 占用的显存与解码开销。C3 通过分层键空间索引组织音频 KV，让共享查询头竞争检索预算，并自适应调节检索分辨率。在 4 个 SpeechLLM 的语音识别、翻译和摘要测试中，C3 在同等 KV 访问预算下表现最优，有效提升了解码效率与显存扩展性。
Story heat trend
Current heat 6·Comparable peak 9（Nov 3 18:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.