Together AI 用分布感知投机解码将 RL rollout 加速最高 50%

Together AI 提出分布感知投机解码（DAS），在 RL 后训练的 rollout 阶段实现最高 50% 加速且不改变模型输出。DAS 由自适应后缀树 drafter 和长度感知调度两部分组成：前者基于近期轨迹构建、无需训练即可跟随策略更新，后者通过跨 GPU 负载均衡与 GPU 内投机预算分配削减长尾请求。