DoubtLess:无需训练的高效推理对比解码方法
DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
DoubtLess 是一种无需训练的对比解码方法,用较小的推理模型引导大模型精简 CoT。在七项竞赛数学、研究生科学和编程基准上,它将 Qwen3-32B 的 CoT 缩短 31% 且准确率不变,优于五种推理时基线。在自调试编程智能体中,它还将每轮思考 token 减少 20%,任务表现不变,并可泛化到另外两个模型系列。
来源:Hugging Face Daily Papers · arxiv.org