跳到正文
热点事件持续更新

Cerebras公布基于晶圆级引擎的万亿参数MoE加速方案

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

针对大规模混合专家(MoE)模型在传统GPU上因路由通信和显存受限导致的扩展瓶颈,Cerebras于2026年10月14日发布了基于晶圆级引擎(WSE)的优化方案。Cerebras指出,WSE拥有约900倍于最新单张GPU的片上SRAM,并采用权重流(weight streaming)技术实现存算分离。该架构避免了复杂的专家并行,仅通过数据并行即可在单台设备上支持万亿参数规模MoE模型的训练。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. Cerebras 官方博客
    大规模 MoE:如何在真实硬件上实现稀疏模型加速

    针对大规模 MoE 模型在 GPU 上因路由通信与显存受限的扩展难题,Cerebras 提出了基于晶圆级引擎 WSE 的优化方案。WSE 拥有约 900 倍于最新单张 GPU 的片上 SRAM,通过权重流(weight streaming)技术实现存算分离。该架构无需复杂的专家并行,仅凭数据并行即可在单台设备上支持万亿参数 MoE 模型的训练。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。