Google Research·· 2026-03-25AI 评分52
Google 推出 TurboQuant 压缩算法,实现 3-bit 无损 KV Cache 与 8 倍计算加速
TurboQuant: Redefining AI efficiency with extreme compression
AI 导读
Google Research 推出向量压缩算法 TurboQuant,结合极坐标量化 PolarQuant 与 1-bit 误差修正技术 QJL,无需训练即可将大模型 KV cache 压缩至 3-bit 且保持原有精度。
来源:Google Research · research.google