跳到正文
Hugging Face Daily Papers·· 12 天前AI 评分42

CacheBack:面向接收方的潜在通信让 KV 缓存减少 94%

Receiver-Conditioned Latent Communication gives 94% CacheBack

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

CacheBack 是一种无需训练、基于发送方注意力权重的接收方条件化潜在通信方法,让接收智能体向发送方描述信息需求,从而过滤压缩发送方的 KV 缓存。

来源:Hugging Face Daily Papers · arxiv.org