Recycler：通过隐藏状态回收实现无额外成本的潜在推理

ByteDance Seed 提出 Recycler 架构，将上一步 token 的嵌入向量与隐藏状态经轻量适配器回注到下一步解码，在解码开销几乎可忽略的情况下保留更丰富的跨步语义。实验显示其在推理与数学任务上参数效率突出，后期引入仍可超越参数量多 2–3 倍的模型。该工作配套覆盖预训练、SFT、持续预训练与 RL 的完整训练和推理流程。