跳到正文
量子位 · 微信公众号·· 2026-06-30AI 评分44

阶跃星辰 JetSpec 论文发布:投机解码端到端最高加速 9.64 倍

DeepSeek点燃大模型效率之争,阶跃火速接棒:JetSpec让大模型解码速度最高提升近10倍

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

阶跃星辰参与发表 JetSpec 论文,用因果并行树生成提升投机解码的接受长度,在 Qwen3-8B 上相比标准自回归解码最高实现 9.64× 端到端解码加速,MATH-500 上一次验证平均接受 10.76 个 token。

来源:量子位 · 微信公众号 · mp.weixin.qq.com