量子位· 闻乐·· 25 日前厳選AI スコア71
字节Seed团队研究发现DeepSeek-V4表现波动源于分块KV Cache压缩的相位敏感性
字节找到了DeepSeek时强时弱的原因
未翻訳のため中国語で表示しています。
AI ガイド
字节Seed团队研究发现,DeepSeek-V4在长上下文中的表现会随信息输入位置每隔4个Token呈周期性起伏,根本原因在于其采用的分块KV Cache压缩机制。
推薦理由
研究指出了分块KV Cache压缩带来的相位敏感性问题,为长上下文模型评估与推理优化提供了新视角。
出典:量子位 · qbitai.com