Engineering at Meta·· 5 小时前精选AI 评分68
Meta 推出下一代广告召回系统 Andromeda:基于软硬协同设计实现百倍吞吐提升
Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design
AI 导读
Meta 发布下一代个性化广告召回系统 Andromeda,通过模型、系统与 GPU 硬件协同设计,在单台 GPU 服务器上实现了每秒评估超过 10 亿次广告,吞吐量相比 2024 年版本提升 100 倍。
推荐理由
展示了通过 MoE 架构与全流程单 GPU 算子融合突破显存带宽瓶颈,为超大规模推荐召回阶段提供了软硬件协同设计路径。
来源:Engineering at Meta · engineering.fb.com