PrismQuant:面向分组量化器的最优零空间旋转
PrismQuant: Optimal Null-Space Rotations for Grouped Quantizers
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
PrismQuant 是一种量化器感知的旋转框架,通过将激活主特征空间与非对称分组 INT4 的常量组子空间对齐来提升低比特量化效果,其旋转设计被建模为 Ky Fan 迹最大化并给出可证明最优的闭式解。
来源:Hugging Face Daily Papers · arxiv.org