JetSpec++ 投机解码加速研究进展

2026年10月31日，Hao AI Lab 在 X 上介绍 JetSpec++ 投机解码方法。该方法将因果并行草稿与隐藏状态预测器、锚点 token 解码器结合，在当前块验证前预先生成下一块草稿，并把省下的时间用于自我修正，使草稿与验证流水线化，几乎隐藏全部草稿开销。报道称其实现最高 7.45 倍无损加速。目前该消息仅来自这一条发布，尚无更多独立报道或复现结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。