Cerebras 详解如何在晶圆级芯片上部署万亿参数模型

Cerebras 详解了利用 WSE-3T 晶圆级芯片集群部署万亿参数大模型的技术方案，并以 3T 参数的 Kimi K3 为例演示了多芯片切分与流水线推理。单块 WSE-3T 具备 44 GB 片上 SRAM，通过 4-bit 量化将 69 个线性注意力层与 24 个稠密层分配在 59 块晶圆上，实现模型权重常驻片上，跨芯片仅需通过 RDMA 传输激活值。