FireRedTeam 开源 IVC-Prune:面向 LVLM 的免训练视觉 token 剪枝
FireRedTeam/IVC-Prune
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
FireRedTeam 开源 IVC-Prune,一种免训练、提示词感知的视觉 token 剪枝策略,通过分析 RoPE 数学性质定位隐式视觉坐标(IVC)token 并保留前景 token,在中间层一次性选择后跨所有层复用,以最大化 KV-cache 压缩且不改变原始位置 ID。
来源:FireRedTeam GitHub 新仓库 · github.com