AIDC
DC AI 热点

全部 AI 动态

全部语言仅中文6 条动态
来源筛选
全部来源AITNT · AI头条(网页)Buzzing HN · 中文精选C114 通信网 · AI与算力(网页)DeepSeek 公众号IDC 圈·云与算力(网页)IT168 服务器存储 · AI与算力(网页)IT之家 · AI 筛选InfoQ · 架构与云计算Solidot · AI 筛选少数派 · AI 筛选智谱 公众号月之暗面 Kimi 公众号爱范儿 · AI 筛选腾讯混元 公众号通义实验室 公众号量子位阮一峰 · AI 筛选阶跃 StepFun 公众号AI Roundup · X AI coding圈日报AWS ArchitectureAWS HPCAWS News · 云基础设施AWS 机器学习Anthropic News(RSS)Apple Machine Learning ResearchArs Technica · AI 筛选Azure Blog · 云基础设施CNCF BlogCerebras 官方博客(网页)Claude Code 更新Claude 官方博客(网页)Cloudflare Blog · 网络基础设施Data Center DynamicsData Center KnowledgeEngineering at MetaEquinix Blog · 互联基础设施Gary MarcusGitHub Blog · AI 与安全Google AIGoogle DeepMindGoogle Developers · AI 筛选Google InfrastructureGoogle ResearchHacker News · AIHugging FaceKubernetes BlogLangChain 官方博客(网页)Last Week in AILlamaIndex 官方博客(网页)MIT News · AIMIT Technology Review AIMicrosoft ResearchNVIDIA Developer BlogNVIDIA · AI 筛选Ollama 更新OpenAI 官方动态OpenStack BlogSebastian RaschkaSemiAnalysis · 算力产业ServeTheHomeSimon WillisonTechCrunch AIThe Batch · DeepLearning.AIThe DecoderThe Next PlatformThe Verge · AI 筛选Transformers 更新Transluce 研究(网页)Vertiv 官方新闻arXiv 人工智能arXiv 机器学习arXiv 自然语言处理vLLM 官方博客(网页)vLLM 更新施耐德电气博客
9月7日2026-09-07
9月1日2026-09-01
腾讯混元 公众号规则精选11:41

1.5 TB 压到 214 GB,Hy4 preview 轻量版来了

腾讯混元 2026-09-01 11:41 广东 腾讯 混元 H y 4 preview 正式发布并开源 以来 , 凭借在 代码、办公、科学等真实生产力任务上展现出卓越能 ,受到广泛欢迎。 这一模型 权重接近 1.5 TB , 上线后, 开源 社区 也 在呼吁一个更轻的版本,希望在配置有限的机器上运行。 为此,腾讯混元团队 通过两项核心技术, 把 H y 4 previe w 的权重缩小到约 214 GB,大幅降低了 运行 模型的硬件门槛 : 1、Sherry 稀疏三值量化算法:把最激进一档权重压到平均 1.25 比特 2、MIX-STQ1_0 混合精度策略:按校准数据逐层决定每层比特压到多低 Hy4-preview BF16 (左) 和 MIX-STQ1_0 (右) 游戏生成能力展示 结果显示,模型从 1.5TB 压缩到只有 2 14G B ,但是基本的任务也都能完成,这对于资源有限的开发者来说,无疑是一个好消息。 技术 详解: 1.25-bit 极限量化 要把模型压到极限,先得有一个足够低的比特格式,模型里占大头的是路由专家,六成以上的参数都在这里,最激进的压缩就落在这部分,用的是 腾讯混元自研的 Sherry 稀疏量化算法。 Sherry 是一种又小又 规整 的三值量化方法,以四个权重为一组,一起量化成 {-1、0、+1},并强制每组恰好留一个零。这样一组只有 32 种组合,用 5 bit 就能编码,摊到每个权重平均 1.25 bit,算上分块共享的缩放系数等额外开销,落到

8月31日2026-08-31
8月26日2026-08-26
8月19日2026-08-19
8月4日2026-08-04