跳到正文
原文
腾讯混元 公众号·· 2026-09-01精选AI 评分73

腾讯混元发布 Hy4 preview 轻量量化版,模型权重从 1.5TB 压缩至 214GB

1.5 TB 压到 214 GB,Hy4 preview 轻量版来了

AI 导读

腾讯混元团队推出 Hy4 preview 轻量量化版本,通过自研 Sherry 稀疏三值量化算法与 MIX-STQ1_0 逐层混合精度策略,将模型权重从接近 1.5TB 压缩至约 214GB。

推荐理由

原文详述了自研三值量化与混合精度策略,为超大参数模型在有限与异构硬件上的本地推理提供了可迁移的工程参考。

来源:腾讯混元 公众号 · mp.weixin.qq.com