Engineering at Meta·· 5 小时前精选AI 评分68
Meta 架构实战：利用碎片化闲置 AI 推理算力优化广告推荐
Turning Opportunistic AI Inference Capacity Into Better Ads Recommendations
AI 导读
Meta 构建了一套利用集群中局部闲置推理算力提升广告推荐效果的弹性系统。系统通过两大互补杠杆动态调节负载：Rank More Ads（RMA）在算力充裕时增加各排序阶段评估的广告候选量，Serve Better Models（SBM）则将更多高价值请求路由至更复杂的深度模型。
推荐理由
原文详解了利用闲置算力提升推荐质量的弹性杠杆与隔离机制，为大规模异构算力集群调度提供了可迁移的工程参考。
来源：Engineering at Meta · engineering.fb.com