面向投机解码的验证感知训练 VAT:提升 EAGLE-3 与 DFlash 接受长度
Verification-Aware Training for Speculative Decoding
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Verification-Aware Training(VAT)是一种即插即用的训练框架,在每步训练中模拟投机解码的验证过程,把接受与拒绝模式转化为监督信号,包含验证头和验证自适应加权两个组件。
来源:Hugging Face Daily Papers · arxiv.org