大模型微切片技术探索：边缘蜂群协同推理新方案

2026年11月，一项关于“AI 模型能被切分得多小”的技术方案引发关注。该方案提出了一种去中心化边缘蜂群设计，将大模型在子层级进行微切片，把 MoE 专家与注意力计算拆解为微碎片，突破了传统整层流水线并行的限制。通过利用稀疏激活与 MLA 压缩来降低网络通信载荷，该设计将单设备的目标内存需求大幅降低至 500 MB 至 2 GB，为利用笔记本电脑、手机等边缘闲置设备协同开展大模型推理提供了可行的新路径。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。