Liquid AI 发布 LFM2.5 的 QAD Q4_0 量化 GGUF 检查点
LFM2.5 Q4\_0 Checkpoints from Quantization-Aware Distillation
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
Liquid AI 发布 LFM2.5-230M、LFM2.5-350M、LFM2.5-1.2B-Instruct 和 LFM2.5-2.6B 的 QAD Q4_0 GGUF 检查点，用高精度教师模型蒸馏到量化学生模型，在保持 Q4_0 内存占用与吞吐的同时恢复量化损失的 97% 精度。
来源：Hugging Face Blog · huggingface.co