PACE:面向四比特循环状态的分段与通道对齐编码
PACE: Periodic and Channel-Aligned Encoding of Four-Bit Recurrent States
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
PACE 是一种事后四比特状态量化器,不再每生成一个 token 就舍入状态,而是每隔几个 token 舍入一次,中间生成的 token 暂存于小缓冲区,从而减少状态中累积的误差。
来源:Hugging Face Daily Papers · arxiv.org