ThinkBit：搜索码字、重校准缩放因子、按推理能力选检查点的 2-bit 量化框架
ThinkBit: Search Codewords, Recalibrate Scales, Select by Reasoning
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
ThinkBit 是一个严格标量的 2-bit 量化框架，通过敏感度分层分配 2-bit/3-bit 位宽、逐块搜索最优码字，并用知识蒸馏重校准缩放因子，以保留模型推理能力。
来源：Hugging Face Daily Papers · arxiv.org