研究人员提出EchoKV自校正KV缓存驱逐方法

1. 13:00
   arXiv 人工智能

   EchoKV：通过迭代查询反馈实现自校正 KV cache 驱逐

   EchoKV 提出一种通过迭代查询反馈自校正的 KV cache 驱逐方法，解决工作空间误差导致错误驱逐的失效问题。该方法保持与 LAQ 相同的工作空间前向传播次数，并引入张量重打分操作以修复工作空间。

Current heat 8·Comparable peak 10（Nov 5 14:00）·Comparable change, last 24 hours–

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.