Liquid AI 发布 LFM2.5-DSpark 草稿模型，解码最高提速 3.18 倍且输出不变
Liquid AI Releases LFM2.5-DSpark Draft Models That Deliver Up to 3.18x Faster Decoding Without Changing Model Outputs
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，通过约 300M 参数的草稿模型一次提议 9 个 token、目标模型单次前向验证，在 H100 上最高提速 3.18 倍、M4 Max 上最高 2.87 倍，贪心解码下输出与目标模型单独运行完全一致。
来源：MarkTechPost · marktechpost.com