Cerebras拆解MoE推理算力与显存瓶颈：从单卡到晶圆级芯片的部署解析

Cerebras发布MoE模型推理算力指南，通过拆解预填充与解码阶段的FLOPs及显存公式，分析了MoE推理在不同硬件架构下的瓶颈所在。实测表明单张H100在batch size为1运行Qwen3-30B-A3B时超过99.5%的时间用于从HBM搬运权重，属于典型的内存受限，需通过提升批处理至约256进入算力受限；而多GPU采用专家并行时会面临All-to-All通信瓶颈。