IT之家 · AI 筛选·· 3 小时前AI 评分44
NVIDIA 下代 Groq LPU 芯片有望转向 3D 堆叠 DRAM,放弃大 SRAM 方案
消息 NVIDIA 下代 Groq LPU 芯片转向 3D 堆叠 DRAM,放弃大 SRAM 方案
AI 导读
NVIDIA 下代 Groq LPU AI 推理加速器芯片有望转向基于 TSV(硅通孔)工艺的 3D 堆叠 DRAM 方案。当前一代 Groq LPU 采用大容量 SRAM 缓存设计以提供快速解码输出,但受限于容量较小及制程升级密度收益有限的问题,在大型模型表现与芯片迭代上面临局限。
来源:IT之家 · AI 筛选 · ithome.com