Meta 将闲置推理容量用于广告推荐排序

Meta 工程博客称，其已把分散在各团队配额、区域和加速器类型中的闲置 AI 推理容量聚合成共享机会容量池，用于广告推荐。系统通过两个弹性杠杆扩展可选工作负载：Rank More Ads 调整排序阶段评估的候选广告数量，Serve Better Models 调整路由到更强模型的请求比例，且不影响基线服务。 为应对容量被突然回收，系统采用物理与逻辑隔离及价值感知的降载机制实现优雅降级。Meta 称该做法带来了显著的广告主价值和容量效率，但未披露具体提升幅度。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。