紫东太初推出GMC核心集剪枝方法,少80% Token仍满血保真多模态能力
紫东太初推出GMC核心集剪枝方法,少80%Token仍满血保真多模态能力
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
中国科学院自动化研究所紫东太初团队提出免训练的核心集剪枝方法GMC,通过互补证据筛选与群体信息传输压缩视觉Token。在Qwen2.5-VL-7B上仅保留256个视觉Token(减少80.2%)时,GMC-H2保留完整模型97.78%的平均能力;在LLaVA-1.5-7B上保留64个Token时平均性能达99.82%。
来源:量子位 · 微信公众号 · mp.weixin.qq.com