快手在线参数服务器性能与时延深度优化:存储引擎吞吐提升50%,RDMA重构通信链路吞吐提升270%
生成式推荐引擎升级,快手在线参数服务器性能与时延深度优化实践|AICon 上海
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
快手科技在AICon上海站分享在线ParameterServer优化实践,通过引入SIMD并行计算、内存预取和按ttl分层精确过期回收方案重构存储引擎,极限吞吐提升50%以上;同时引入RDMA重构通信链路,极限吞吐再提升270%,时延降至原来的1/3。
来源:InfoQ · 微信公众号 · mp.weixin.qq.com