Meta 如何将闲置 AI 推理容量转化为更好的广告推荐
Turning Opportunistic AI Inference Capacity Into Better Ads Recommendations
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Meta 构建了一套系统,把分散在各团队、区域和加速器类型中的闲置推理容量聚合成共享的机会容量池,用于广告推荐。系统通过 Rank More Ads(RMA)调整排序阶段评估的候选广告数量、Serve Better Models(SBM)调整路由到更强模型的请求比例,两个弹性杠杆在不影响基线服务的前提下扩展可选工作。
来源:Meta Engineering · engineering.fb.com