CacheBack:面向接收方的潜在通信让 KV 缓存减少 94%
Receiver-Conditioned Latent Communication gives 94% CacheBack
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
CacheBack 是一种无需训练、基于发送方注意力权重的接收方条件化潜在通信方法,让接收智能体向发送方描述信息需求,从而过滤压缩发送方的 KV 缓存。
来源:Hugging Face Daily Papers · arxiv.org
Receiver-Conditioned Latent Communication gives 94% CacheBack
本站未展示全文,请前往来源网站阅读。
CacheBack 是一种无需训练、基于发送方注意力权重的接收方条件化潜在通信方法,让接收智能体向发送方描述信息需求,从而过滤压缩发送方的 KV 缓存。
来源:Hugging Face Daily Papers · arxiv.org