量子位· 闻乐·· 4 小时前精选AI 评分71
字节Seed团队研究发现DeepSeek-V4表现波动源于分块KV Cache压缩的相位敏感性
字节找到了DeepSeek时强时弱的原因
AI 导读
字节Seed团队研究发现，DeepSeek-V4在长上下文中的表现会随信息输入位置每隔4个Token呈周期性起伏，根本原因在于其采用的分块KV Cache压缩机制。
推荐理由
研究指出了分块KV Cache压缩带来的相位敏感性问题，为长上下文模型评估与推理优化提供了新视角。
来源：量子位 · qbitai.com