跳到正文
IT Home·· 21 天前AI 评分36

Astera Labs 推出 Leo X 智能内存控制器:将 KV Cache 从加速器卸载到外部内存

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

Astera Labs 发布 Leo X、Leo 2 E、Leo 2 P 三系列智能内存控制器,其中 Leo X 基于网络架构,可将 KV Cache 和智能体上下文从 GPU 卸载到专用内存层,配合 Scorpio 网络交换芯片实现 GPU 横向扩展。

来源:IT Home · ithome.com