跳到正文
Meta Engineering·· 1 天前AI 评分51

Meta 发布新一代 Andromeda 广告检索系统,单 GPU 服务器每秒处理超 10 亿条广告

Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

Meta 发布新一代 Andromeda 个性化广告检索引擎,通过模型、系统与 GPU 硬件协同设计,将检索阶段性能推近排序级水平。新架构引入检索 MoE,推理 FLOPs 比 2024 版减少约 300 倍,单张 GH200 每秒评分超 100 亿条广告;单 GPU 服务器端到端吞吐超每秒 10 亿条,比 2024 版提升约 100 倍。

来源:Meta Engineering · engineering.fb.com