Liquid AI 发布 LFM2.5 Q4_0 量化检查点:用 QAD 为边缘部署恢复精度
LFM2.5 Q4_0: Quantization-Aware Distillation for Edge Deployment
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Liquid AI 发布 LFM2.5-230M、350M、1.2B-Instruct 和 2.6B 的 4-bit Q4_0 检查点,采用量化感知蒸馏(QAD)训练,四款模型分别保留 BF16 基线性能的 97.1%、96.5%、97.4% 和 96.6%。
来源:Liquid AI 模型与工程博客 · liquid.ai