Grouped Value Attention（GVA）：按需重建 Key 的高效 KV 缓存方案
Grouped Value Attention: Efficient KV Caching via On-Demand Key Reconstruction
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
研究者提出 Grouped Value Attention（GVA），只存储分组 value，并用学习到的线性映射重建 content key，推理时该映射可吸收进 query，无需物化 content key。
来源：Hugging Face Daily Papers · arxiv.org