跳到正文
原文
Engineering at Meta·· 5 小时前精选AI 评分68

Meta 推出下一代广告召回系统 Andromeda:基于软硬协同设计实现百倍吞吐提升

Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design

AI 导读

Meta 发布下一代个性化广告召回系统 Andromeda,通过模型、系统与 GPU 硬件协同设计,在单台 GPU 服务器上实现了每秒评估超过 10 亿次广告,吞吐量相比 2024 年版本提升 100 倍。

推荐理由

展示了通过 MoE 架构与全流程单 GPU 算子融合突破显存带宽瓶颈,为超大规模推荐召回阶段提供了软硬件协同设计路径。

来源:Engineering at Meta · engineering.fb.com