跳到正文
Hugging Face Daily Papers·· 2 天前AI 评分43

PACE:面向四比特循环状态的分段与通道对齐编码

PACE: Periodic and Channel-Aligned Encoding of Four-Bit Recurrent States

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

PACE 是一种事后四比特状态量化器,不再每生成一个 token 就舍入状态,而是每隔几个 token 舍入一次,中间生成的 token 暂存于小缓冲区,从而减少状态中累积的误差。

来源:Hugging Face Daily Papers · arxiv.org