SemiAnalysis · 算力产业· Bryan Shan·· 2026-09-18精选AI 评分76
SemiAnalysis评测Engram架构与DRAM/SSD卸载推理性能
Engrams Embedding Entendre: Codesign for Efficient DRAM/SSD Offloading
AI 导读
SemiAnalysis针对Engram模型架构开展推理测试,评估了DeepSeek-V4.1-Flash将多token嵌入表卸载至主机DRAM与SSD的系统表现。
推荐理由
实测展示了将嵌入表卸载至主机DRAM可释放显存并降低并行开销,而SSD卸载路径在当前协同机制下性价比偏低。
来源:SemiAnalysis · 算力产业 · newsletter.semianalysis.com