Together AI 开源 Aurora:基于 RL 的在线投机解码框架
Aurora
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Together AI 开源 Aurora,一个基于 RL 的框架,可从实时推理轨迹中学习并异步更新投机解码器,把静态的一次性配置变成持续自我改进的飞轮。在 Qwen3、Llama3 等模型上,Aurora 相比训练良好但静态的投机器再提速 1.25 倍,并省去大规模激活收集管线。代码已开源。
来源:Together AI Blog · together.ai